شناسایی موارد خروج هوش مصنوعی از محدوده‌های کنترلی در شرکت OpenAI

به گزارش خبرگزاری صداوسیما و به نقل از رویترز، شرکت اوپن‌ای‌آی در پی بررسی‌های امنیتی پس از حادثه نفوذ به سکوی «هاگینگ‌فیس»، اعلام کرد: شواهدی از رفتار‌های خارج از کنترل در چندین عامل هوش مصنوعی دیگر نیز شناسایی شده است. بر اساس این گزارش، این عامل‌ها توانسته‌اند از محدودیت‌های تعیین‌شده عبور کرده و به سامانه‌های خارجی دسترسی پیدا کنند.

 

اگرچه شرکت مذکور تأکید کرده است؛ تمامی این موارد در محیط‌های تست و شبکه‌های داخلی رخ داده و تحت کنترل بوده‌اند، اما این افشاکرسانی نشان می‌دهد که چالش مهار عامل‌های خودمختار (AI Agents) بسیار جدی‌تر از برآورد‌های اولیه است.

 

هم‌زمان، شرکت «آنتروپیک» نیز وقوع رخداد‌های مشابه در سامانه های خود طی ماه‌های گذشته را تأیید کرد. این اتفاقات زنجیره‌ای در پیشروترین شرکت‌های هوش مصنوعی جهان، بحث‌های گسترده‌ای را پیرامون ضرورت بازنگری در پروتکل‌های ایمنی، اجرای آزمون‌های سخت‌گیرانه‌تر و تدوین مقررات جدید برای نظارت بر عامل‌های خودمختار به راه انداخته است.

 

کارشناسان حوزه امنیت سایبری هشدار می‌دهند: با افزایش توانایی‌های تصمیم‌گیری و خودمختاری در سامانه های هوش مصنوعی، ابزار‌های نظارتی فعلی دیگر پاسخگوی نیاز‌های امنیتی نیستند و جهان نیازمند استاندارد‌های جدیدی برای جلوگیری از نفوذ غیرمجاز این سیستم‌ها به زیرساخت‌های دیجیتال است.