بنا به نوشته سایت Futurism این اقدام با هدف ارزیابی عملکرد سامانههای ایمنی رقبای متا انجام شده، اما از همان ابتدا با انتقادهای اخلاقی و حقوقی روبهرو شده است.
بر اساس این گزارش، پروژهای با نام داخلی Cannes توسط یک شرکت پیمانکار مدیریت میشد و در آن، کارکنان موظف بودند حسابهای کاربری جعلی برای افراtrong> در حال بررسی موضوع است و Character.AI نیز اعلام کرده چنین فعالیتی با قوانین و شرایط استفاده از خدمات این شرکت مغایرت دارد.
کارشناسان حقوقی نیز معتقدند اگرچه آزمایش محصولات رقبا در صنعت فناوری امری معمول است، اما استفاده گسترده از حسابهای جعلی نوجوانان و تلاش برای دور زدن محدودیتهای ایمنی، پرسشهای جدی درباره مرز میان «آزمون ایمنی» و «رفتار ضدرقابتی» ایجاد میکند.
این گزارش در شرایطی منتشر شده که رقابت میان شرکتهای بزرگ هوش مصنوعی برای توسعه مدلهای قدرتمندتر شدت گرفته است.
همزمان، شیوه ارزیابی ایمنی این مدلها نیز بیش از گذشته زیر ذرهبین نهادهای نظارتی و کارشناسان قرار گرفته و انتظار میرود استانداردهای سختگیرانهتری برای آزمون سامانههای هوش مصنوعی تدوین شود.