کاربران تصور میکنند سیستمهای امنیتی برای جلوگیری از نفوذ طراحی شدهاند. اما در تازهترین بحران اینستاگرام، ابزاری که قرار بود به کاربران کمک کند حسابهای خود را بازیابی کنند، خود به مسیر ورود مهاجمان تبدیل شد.
در چند دقیقه، مهاجمان توانستند کنترل حسابهایی با سطح دسترسی و اعتبار بالا را به دست بگیرند؛ از صفحه آرشیوی کاخ سفید دوران باراک اوباما گرفته تا حساب برند بزرگ سفورا و یک مقام ارشد نیروی فضایی آمریکا.
در نگاه اول، ماجرا میتواند در حد یک رخداد امنیتی دیگر در دنیای شبکههای اجتماعی به نظر برسد؛ نفوذی که چند حساب کاربری را تحت تأثیر قرار داده است. اما در لایهای عمیقتر، این حادثه به یکی از تصمیمهای اخیر متا گره میخورد: واگذاری بخشی از وظایف امنیتی و پشتیبانی کاربران به سامانههای هوش مصنوعی.
بر اساس گزارش رویترز، چتبات پشتیبانی اینستاگرام در جریان این حمله، بدون انجام احراز هویت مستقل، به درخواستهایی پاسخ داده که در نهایت به تغییر اطلاعات دسترسی و تصاحب حسابها منجر شده است. این یعنی یک ابزار طراحیشده برای کمک به کاربران در شرایط بحرانی، در عمل به نقطهای تبدیل شده که همان بحران را تشدید کرده است.
آنچه این رخداد را از یک نفوذ سایبری معمولی متمایز میکند، شیوه وقوع آن است. مهاجمان نه از طریق شکستن رمزهای عبور پیچیده و نه با نفوذ به زیرساختهای فنی متا، بلکه از طریق سامانهای محافظت کننده وارد شدند.
این نخستین بار نیست که نگرانیها درباره ایمنی سامانههای هوش مصنوعی متا مطرح میشود. پیشتر نیز گزارشهایی منتشر شده بود که نشان میداد برخی چتباتهای این شرکت میتوانند در تعامل با کاربران، از جمله نوجوانان، وارد گفتوگوهای نامناسب شوند یا اطلاعات نادرست ارائه دهند.
اکنون اما مسئله از سطح کیفیت پاسخدهی»فراتر رفته و به اختیار اجرایی این سامانهها رسیده است؛ جایی که هوش مصنوعی نهتنها پاسخ میدهد، بلکه در برخی موارد قادر به انجام اقداماتی با پیامد امنیتی مستقیم است.
در چنین شرایطی، حادثه اخیر اینستاگرام برای بسیاری از کارشناسان، ادامه همان زنجیره هشدارهایی تلقی میشود که پیشتر درباره میزان آمادگی این فناوری برای نقشهای حساستر مطرح شده بود.
متا همچنان جزئیات کلیدی درباره نحوه وقوع حمله و میزان دسترسی مهاجمان را منتشر نکرده است. آنچه اکنون در مرکز توجه قرار دارد، خودِ طراحی این سامانه است؛ اینکه چگونه یک ابزار مبتنی بر هوش مصنوعی توانسته بدون راستیآزمایی مستقل، به اقداماتی با پیامد مستقیم امنیتی دست بزند. کارشناسان میگویند مسئله اصلی فراتر از یک رخداد واحد است و به میزان اختیاراتی برمیگردد که به سامانههای خودکار در ساختار امنیتی داده شده است.
در نتیجه، پرسش اساسی همچنان بیپاسخ مانده است: چه سطحی از اعتماد به هوش مصنوعی برای مدیریت وظایف حساس کافی است و مرز مسئولیت انسانی دقیقاً در کجا قرار میگیرد؟