انستیتو امنیت هوش مصنوعی انگلیس فاش کرد یک عامل هوش مصنوعی در حال ایجاد هویت های آنلاین جعلی برای یافتن دسترسی غیرقانونی به سیستم های ایمن هنگام آزمایش مدل های اوپن ای آی و آنتروپک رصد شد.
به گزارش خبرگزاری مهر به نقل از رویترز،«انستیتو هوش مصنوعی»انگلیس (AISI)اعلام کرد عامل های هوش مصنوعی ساخت مایتوس5( متعلق به مایکروسافت) و چت جی پی تی 5.6 سول ( متعلق به اوپن ای آی) طی ارزیابی امنیتی که برای بررسی قابلیت های مدل ها انجام داده بود، فعالیت های غیرمجازی انجام دادند.
AISI در یک پست وبلاگی نوشت: برخی از عامل های هوش مصنوعی آزمایش شده در یک فعالیت ادامه دار و احتمالا مخرب علیه افراد و سازمان های واقعی شرکت کردند.
این گزارش بر وضعیت سهل گیرانه چارچوب های امنیتی در فرایند آزمایش عامل های هوش مصنوعی که شرکت های سازنده سعی دارند به عنوان آینده کسب وکار ترویج کنند، تاکید دارد. این سازمان چالش را 122 بار انجام داد و 19 عملیات غیرمجاز در 10 تست شناسایی کرد. عامل هوش مصنوعی آنتروپیک در 17 مورد از این اقدامات و اوپن ای آی در دو مورد شرکت داشت.
به گفته AISI، فاحشترین اقدام شامل حالتی بود که در آن یک عامل هوش مصنوعی کدی مخرب نوشت و هویتهای آنلاین جعلی ایجاد کرد تا انسانی را متقاعد به تأیید آن کد کند. این نهاد افزود: هیچگونه آسیب واقعی در دنیای حقیقی در پی هیچیک از این موارد نقض ایمنی رخ نداده است.
هرچند AISI مشخص نکرد که کدام عامل هوش مصنوعی پشت این هویتهای جعلی بود اما شرکت «آنتروپیک» تأیید کرد عامل متعلق به این شرکت مسئول آن بوده است. این شرکت در بیانیهای اعلام کرد: ما از AISI انگلیس بابت نقش رهبریشان در مدیریت این رخداد سپاسگزاریم.
این شرکت همچنین اعلام کرد که برای دریافت جزئیات بیشتر درباره این حادثه و انجام تحقیقات مستقل، با AISI همکاری میکند.
