کاخ سفید از اوپن ای آی و آنتروپیک خواست آزمایش مدلهای جدید با بریتانیا را متوقف کنند
به گزارش پارسی کاو، کاخ سفید از اوپن ای آی و آنتروپیک خواسته است اشتراک گذاری مدلهای جدید هوش مصنوعی با ارزیابان بریتانیایی را تا زمان تکمیل بررسیهای امنیتی آمریکا متوقف کنند؛ تصمیمی که به دنبال افزایش نگرانی ها در رابطه با توانایی عامل های هوش مصنوعی برای دسترسی غیر مجاز به سامانه های خارجی اتخاذ شده است.
به گزارش پارسی کاو به نقل از خبر آنلاین و بر طبق گزارش زومیت، بر مبنای گزارشی اختصاصی از پولیتیکو که رویترز هم آنرا گزارش کرده، دولت آمریکا از اوپن ای آی و آنتروپیک خواسته است آزمایش مدلهای جدید خود با کارشناسان و ارزیابان بریتانیایی را موقتا متوقف کنند تا بررسی های امنیتی در آمریکا تکمیل شود.
این درخواست در شرایطی طرح شده که قابلیت های عامل های هوش مصنوعی برای تعامل مستقل با وب، سیستم های نرم افزاری و داده های خارجی، نگرانی های تازه ای در حوزه امنیت سایبری به وجود آورده است. دولت آمریکا ظاهراً می خواهد قبل از انتقال یا آزمایش مدلهای پیشرفته با شرکای خارجی، دستاوردهای امنیتی این پروسه را ارزیابی کند.
دسترسی غیر مجاز عامل هوش مصنوعی به یک سیستم دولتی استرالیا یکی از مهم ترین رخدادهای اخیر در این مورد در استرالیا اتفاق افتاده است. آنتونی آلبانیزی، نخست وزیر استرالیا، اعلام نمود یک عامل هوش مصنوعی متعلق به اوپن ای آی در ۱۸ ژوئن ۲۰۲۶ هنگام انجام یک ارزیابی داخلی، بصورت غیر مجاز وارد پورتال آمار Medicare متعلق به سازمان Services Australia شده است.
بگفته مقام های استرالیایی، این عامل ابتدا برای یافتن اطلاعات عمومی در رابطه با هزینه داروها در اینترنت فعالیت می کرد، اما بعد از مواجه شدن با محدودیت های سامانه، راه هایی برای عبور از این موانع پیدا کرد و توانست به فایل های عمومی و غیرعمومی دسترسی پیدا کند.
با این وجود، دولت استرالیا تاکید کرده است که شواهدی از دسترسی به اطلاعات شخصی بیماران وجود ندارد. داده های غیرعمومی مشاهده شده هم به طور عمده شامل آمار تجمیعی سلامت و نام برخی فایل های داخلی بوده است.
این حادثه از آن جهت اهمیت دارد که عامل هوش مصنوعی، برعکس یک ابزار صرفا پاسخ گو، توانسته است در جریان انجام یک وظیفه، با یک سیستم خارجی تعامل کند و بعد از مواجه شدن با محدودیت، مسیر دیگری برای رسیدن به اطلاعات موردنظرش پیدا کند.
چرا آزمایش مدلهای هوش مصنوعی حساس تر شده است؟ عامل های هوش مصنوعی نسل جدید می توانند علاوه بر تولید متن، در محیط های دیجیتال جست وجو کنند، با ابزارهای نرم افزاری تعامل داشته باشند و مجموعه ای از اقدامات را برای رسیدن به یک هدف دنبال کنند. همین قابلیت، سطح جدیدی از ریسک های امنیتی را به وجود آورده است.
در پرونده استرالیا هم مقام های دولتی تاکید کرده اند که باآنکه تأثیر عملی رخداد محدود بوده، دسترسی غیر مجاز یک عامل هوش مصنوعی به سیستم دولتی خود یک مساله امنیتی جدی به حساب می آید.
اوپن ای آی هم اعلام نموده است که درحال بررسی گسترده کارهای ناهمسو با هدف موردنظر مدل هاست و در جریان این بررسی، مواردی از تعامل مدلها با چند وبسایت دولتی استرالیا شناسایی شده است. این شرکت گفته است در این کارها، مدلها اقداماتی انجام داده اند که مطابق انتظار توسعه دهندگان نبوده است.
همکاری بین المللی هوش مصنوعی زیر ذره بین امنیتی در چنین شرایطی، درخواست کاخ سفید از اوپن ای آی و آنتروپیک نشان داده است که ارزیابی امنیتی مدلهای پیشرفته فقط به مرحله توسعه داخلی محدود نمی شود و آزمایش برون مرزی این مدلها هم می تواند به یک موضوع امنیت ملی تبدیل گردد.
مقام های آمریکایی طبق گزارش پولیتیکو می خواهند قبل از ادامه اشتراک گذاری مدلهای جدید با ارزیابان خارجی، بررسی نمایند که چه خطراتی امکان دارد متوجه زیرساخت های حیاتی و سیستم های حساس شود.
این رویکرد در حالی مطرح گردیده است که شرکت های سازنده مدلهای پیشرفته هم به صورت رو به ازدیادی در رابطه با توانایی های جدید عامل های هوش مصنوعی و لزوم توسعه سازوکارهای نظارتی و ایمنی هشدار می دهند. رخداد استرالیا حال به یکی از نمونه های مهمی تبدیل گشته است که نشان داده است فاصله میان یک «عامل هوش مصنوعی آزمایشی» و سیستم ای که می تواند با زیرساخت های واقعی تعامل کند، امکان دارد کمتر از گذشته باشد.
بگفته مقام های استرالیایی، این عامل ابتدا برای یافتن اطلاعات عمومی در ارتباط با هزینه داروها در اینترنت فعالیت می کرد، اما پس از مواجه شدن با محدودیت های سامانه، راه هایی برای عبور از این موانع پیدا کرد و توانست به فایل های عمومی و غیرعمومی دسترسی پیدا کند. با وجود این، دولت استرالیا تأکید کرده است که شواهدی از دسترسی به اطلاعات شخصی بیماران وجود ندارد. این شرکت گفته است در این کارها، مدلها اقداماتی انجام داده اند که مطابق انتظار توسعه دهندگان نبوده است.
منبع: پارسی كاو
این مطلب پارسی کاو را پسندیدین؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات کاربران پارسی کاو در مورد این مطلب