آنتروپیک: کلاد ۲۶ درصد توسعه مدل‌های بعدی را پیش می‌برد

شرکت آنتروپیک در پستی وبلاگی اعلام کرد که هوش مصنوعی کلاد (Claude) اکنون رهبری ۲۶ درصد از فعالیت‌های تحقیق‌وتوسعه هوش مصنوعی در این شرکت را بر عهده دارد. این شرکت قصد دارد با انتشار منظم این آمار و ارقام، به افراد خارج از سازمان اجازه دهد تا ببینند فناوری هوش مصنوعی با چه سرعتی در حال توسعه نسل بعدی خود است.

بر اساس اعلام آنتروپیک، تا ماه آگوست، هوش مصنوعی در بیش از ۹۰ درصد از فعالیت‌های تحقیقاتی شرکت با انسان‌ها همکاری داشته است. این شرکت تأکید کرد که کلاد در هیچ‌یک از بخش‌های اندازه‌گیری‌شده این فعالیت‌ها به‌طور کامل خودمختار عمل نمی‌کند، اما سهم آن در توسعه این فناوری به‌سرعت افزایش یافته و از یک درصد در ماه مارس به سطح فعلی رسیده است.

طبق اعلام آنتروپیک، در ماه آگوست حدود ۳۰ هزار ایجنت هوش مصنوعی در هر لحظه مشغول انجام فعالیت‌های تحقیقاتی و مهندسی روی پلتفرم داخلی اصلی این شرکت بودند. این شرکت افزود که هر اقدامی که ایجنت‌ها انجام می‌دهند، پیش از اجرا بررسی می‌شود. از میان بیش از یک میلیارد تصمیمی که در آن ماه گرفته شد، حدود یک مورد از هر ۴۷ هزار تصمیم مسدود شده است.

آنتروپیک همچنین فاش کرد که در یک هفته نمونه‌گیری شده در ماه ژوئیه، حدود ۶ درصد از توان پردازشی مورداستفاده آنتروپیک برای تحقیقات هوش مصنوعی به فعالیت‌های ایمنی اختصاص داشته است. این رقم برای تحقیقاتی که خود هوش مصنوعی انجام داده، به ۱۲ درصد افزایش یافته است.

این آمار یکی از دقیق‌ترین تصویرهای عمومی از نحوه توسعه این فناوری توسط شرکت‌های پیشرو در صنعت ارائه می‌دهد. در شرایطی که نگرانی‌ها درباره احتمال رسیدن هوش مصنوعی به مرحله‌ای که بتواند با دخالت اندک انسان، توسعه خودش را پیش ببرد، افزایش یافته است. پژوهشگران هشدار داده‌اند که با خودمختارتر شدن ایجنت‌های هوش مصنوعی، ممکن است این سیستم‌ها رفتارهایی از خود نشان دهند که با اهداف سازندگانشان مغایرت داشته باشد و نظارت یا کنترل آن‌ها دشوارتر شود.

شرکت OpenAI نیز به‌تازگی اعلام کرد که انتشار منظم گزارش‌هایی درباره رفتارهای غیرمنتظره یا غیرمجاز هوش مصنوعی را آغاز خواهد کرد. این شرکت همچنین جزئیات شش مورد از رفتارهای غیرمنتظره یا نگران‌کننده مدل‌های خود را منتشر کرد.