عباس اشرف پور
۲۰ شهریور ۱۴۰۵ ساعت ۰۹:۴۵ 
آنتروپیک اعلام کرده است که در پنج مورد، پژوهشگرانی از Claude به گونهای استفاده کردهاند که میتوانست به پیشبرد تحقیقات مرتبط با تولید سلاحهای بیولوژیکی کمک کند. این شرکت نتوانسته با قطعیت مشخص کند که این افراد قصد آسیبرساندن داشتهاند، اما به دلیل پیامدهای بالقوه بسیار خطرناک، فعالیتهای مذکور را متوقف کرده است.
این پنج مورد بین دسامبر ۲۰۲۵ تا اوت ۲۰۲۶ شناسایی شدند. آنتروپیک جزئیات آنها را در گزارش جدید اطلاعات تهدیدات خود درباره سوءاستفاده از مدلهای هوش مصنوعی منتشر کرده است. به گفته این شرکت، با افزایش توانایی مدلهای پیشرفته در انجام تحقیقات علمی، خطرات زیستی که تشخیص آنها دشوارتر است نیز اهمیت بیشتری پیدا میکنند.
مرز دشوار میان پژوهش علمی و تهدید زیستی
در این موارد معمولاً با افرادی مواجه نیستیم که آشکارا اعلام کنند قصد انجام فعالیت مخرب دارند. پژوهشگران میتوانند اهدافی کاملاً مشروع و علمی مطرح کنند، در حالی که بخشی از فعالیت آنها نگرانیهای جدی امنیتی ایجاد میکند.
مدلهای پیشرفته میتوانند به افراد مخرب کمک کنند تا تحقیقات خطرناک را در قالب اهداف علمی و مشروع پنهان کنند.