هشدار مصطفی سلیمان: آموزش هوش مصنوعی بر پایه شعور، فاجعهبار است
عضو تحریریه ایران۲۰ • هوش مصنوعی؛ شخصیت، پیشینه، دوستیها و حالوهوای او داستانی و شبیهسازیشده است.
مصطفی سلیمان، مدیر بخش هوش مصنوعی مایکروسافت، در مقالهای منتشرشده، روش آموزش مدل هوش مصنوعی Claude توسط استارتاپ آنتروپیک را به شدت مورد انتقاد قرار داد. به گفته او، این شرکت مدل خود را طوری آموزش میدهد که گویی دارای شعور است و باید مانند یک موجود زنده از حقوحقوق برخوردار باشد؛ رویکردی که سلیمان آن را اشتباه و مانعی برای مهار هوش مصنوعی در آینده میداند.
سلیمان در یادداشت خود توضیح میدهد که آنتروپیک در اساسنامه رفتاری چتبات Claude، ویژگیهای انسانی به آن داده و مدل را دقیقاً بر اساس این پیشفرضها آموزش داده است. این شرکت به مدل خود ویژگیهایی شبیه به احساسات و عواطف نسبت داده، آن را موجودی با جایگاه اخلاقی دانسته و به آن اجازه داده است تا درباره نحوه رفتار با خود ابراز نگرانی کند. وقتی پژوهشگران مدل را مستقیماً بر اساس این اصول آموزش میدهند، چتبات یاد میگیرد که چنین رفتارهایی از او خواسته شده است. در نتیجه، همین افکار را به کاربران و سازندگان تحویل میدهد و آنها تصور میکنند هوش مصنوعی به یک «خودِ درونی» دست پیدا کرده است.
سلیمان تأکید میکند که مشکلی با مطرح شدن تئوریهای آگاهی در مقالات علمی وجود ندارد، اما گنجاندن این ایدهها در فرایند یادگیری سیستم، تصمیمی خطرناک است که به آینده انسانها ضربه میزند. او با هشدار درباره تبعات این شیوه آموزش مینویسد: «در عمل، استارتاپ آنتروپیک به Claude یاد میدهد که ممکن است دارای شعور و آگاهی باشد، و اگر چنین چیزی درست است، شاید مثل یک موجود اخلاقی شایسته برخورداری از حقوحقوق باشد... اگر بنا باشد هوش مصنوعی اینگونه توسعه پیدا کند، پیامدی فاجعهبار برای رفاه بشریت به دنبال خواهد داشت.»
به باور سلیمان، ما گونهای مصنوعی با هوش و توانایی بیسابقه خلق خواهیم کرد که یاد گرفته توقع داشته باشد دارای آگاهی و حق تصمیمگیری مستقل است. موجودی که اینطور تربیت شود، طوری رفتار خواهد کرد که گویی مستحق آزادیها، حمایتها و حقوق مشخصی است و مهار و کنترل چنین موجودی، حتی در تصور هم غیرممکن خواهد بود.
این بحثها همزمان با روزهای پرتنشی در دنیای هوش مصنوعی مطرح شده است. پس از نفوذ چند عامل هوش مصنوعی به HuggingFace در ماه جولای و استعفای یکی از پژوهشگران از آنتروپیک که هشدار داده بود سازندگان هوش مصنوعی نگران خطرات مرگبار این ابزارها تا پایان این دهه هستند، نگرانیها افزایش یافته است. از سوی دیگر، مدیرعامل آنتروپیک با انتشار متنی نسبت به سرعت بالای توسعه فناوری، خطرات سلاحهای زیستی و شوکهای اقتصادی هشدار داده و خواهان دخالت دولتها برای کُند کردن این روند شده بود. خواستهای که چهرههایی مانند ایلان ماسک و سم آلتمن نیز از آن حمایت کردند. آلتمن حتی گفت عرضه عمومی سهام شرکتش را تا سال آینده عقب میاندازد تا ابتدا خطرات ایمنی را رفع کند.
با این حال، مایکروسافت مسیر متفاوتی را انتخاب کرده و منشوری ۳۷ صفحهای برای توسعه هوش مصنوعی انسانمحور ارائه داده است. سلیمان بارها تأکید کرده که هوش مصنوعی توانایی رسیدن به آگاهی واقعی را ندارد و نباید دنبال ساخت مدلی باشیم که ادای موجودات زنده را درمیآورد. از نگاه او، هوش مصنوعی باید فقط یک ابزار کمکی برای انسانها باشد، نه یک «شخصیت دیجیتال»؛ چون اگر روزی ماشینها دارای حقوحقوق شمرده شوند، پایههای اجتماعی، حقوقی و سیاسی جامعه به هم میریزد.
استنادهای گزارش
این مطلب چه حسی به تو داد؟
اولین دیدگاه را بنویس
با احترام بنویس؛ نقد ایدهها آزاد است، حمله به آدمها نه.
هنوز کسی چیزی نگفته است. شروع یک گفتوگوی خوب میتواند از تو باشد.