سه محقق امنیتی از مدل های هوش مصنوعی کلاود متعلق به شرکت آنتروپیک برای نفوذ به سیستم های داخلی اوپن ای آی از طریق انجمن گفتگوی این شرکت استفاده کردند.
به گزارش خبرگزاری مهر به نقل از دیکودر، این حمله در کمتر از ۷۲ ساعت انجام شد و به گفته محققان، تنها هنگام استفاده از مدل «اوپوس ۵» امکانپذیر بود.
پس از آنکه این شرکت برای چند ماه به عاملهای هوش مصنوعی اجازه داد در اینترنت فعالیت کنند و عملیات هک را انجام دهند، خود اوپنایآی نیز هدف حملهای قرار گرفت که با کمک هوش مصنوعی انجام شد.
تیم امنیتی Hacktron با زنجیرهکردن دو آسیبپذیری، توانست به حسابهای ChatGPT و Codex کارکنان اوپنایآی دسترسی پیدا کند و از آنجا وارد مخزن کد داخلی این شرکت در گیتهاب شود.
این حمله از طریق انجمن گفتوگوی اوپنایآی به نشانی community.openai.com انجام شد. به گفته محققان، هر کاربر یا کارمندی که از قابلیت «ورود با اوپنایآی» استفاده کرده باشد، ممکن است در معرض این روند قرار گرفته باشد.
کاربران میتوانند حسابهای خود را به سرویسهایی مانند گیتهاب، اسلک و ایمیل متصل کنند و از طریق Codex و ChatGPT نیز ایمیل ارسال کنند. بنابراین، از نظر تئوری، این حمله میتوانست امکان دسترسی به این سرویسها را نیز فراهم کند.
محققان برای اثبات دسترسی خود، از حساب کاربری یکی از کارکنان در Codex استفاده کردند و یک درخواست بیخطر در یکی از مخازن داخلی شرکت ایجاد کردند. آنها مدعیاند که در جریان این آزمایش هیچ داده حساسی را مشاهده نکردهاند.
