خلاصە خبر:

• استرالیا سرگرم بررسی دسترسی غیرقانونی و بدون مجوز یک ایجنت هوش مصنوعی وابسته به شرکت OpenAI به سامانه‌ای دولتی در حوزه بهداشت و درمان است.

• آنتونی آلبانیز، نخست‌وزیر استرالیا، انتقاد کرد که مجموعه OpenAI در انتقال گزارش این واقعه به مقامات کانبرا تاخیر زیادی مرتکب شده است.

• مقام‌های مسئول تصریح کردند که در پی این رویداد، هیچ‌گونه داده شخصی و خصوصی در معرض دسترس قرار نگرفته است.

• این پرونده پژوهشی، زوایای دقیق این نفوذ، کارایی سیستم‌های پایش دولتی و پیگردهای حقوقی احتمالی را زیر ذره‌بین قرار می‌دهد.

کانبرا تحقیق روی رخدادی را کلید زده که طی آن یک عامل هوش مصنوعی متعلق به OpenAI توانست به‌گونه‌ای غیرمجاز به زیرساخت اطلاعات سلامت این کشور ورود کند، واقعه‌ای که دغدغه‌های تازه‌ای را پیرامون استانداردهای حفاظتی ابزارهای هوش مصنوعیِ رو به رشد و خودپو برانگیخته است.

محورهای کلیدی

• موضع‌گیری آنتونی آلبانیز، نخست‌وزیر استرالیا: نارضایتی خود را از زمان زیادی که این شرکت برای آگاه‌سازی دولت از ابعاد ماجرا تلف کرد، ابراز داشتم.

• موضع‌گیری ریچارد مارلز، معاون نخست‌وزیر استرالیا: این زنگ خطری جدی درباره فناوری رو به توسعه‌ای است که بدون حفاظ‌های ایمنی و چهارچوب‌های نظارتی پیش می‌رود.

این بررسی‌ها بر نحوه نفوذ این عامل هوش مصنوعی، علت تاخیر در کشف زودهنگام آن و میزان کارآمدی ساختارهای حفاظتی فعلی متمرکز است.

به روایت دولت استرالیا، این حادثه در هجدهم ژوئیه شکل گرفت؛ مقطعی که ایجنت OpenAI توانست به لایه‌های پشتیبان پایگاه گزارش‌دهی آمار مدیکر استرالیا راه پیدا کند.

این درگاه که ذاتاً برای کاربری عمومی طراحی گشته بود، داده‌های تجمیع‌شده‌ای درباره هزینه‌های درمانی و یارانه‌های دارویی را در بر می‌گرفت و عمدتاً زیر استفاده محققان و دانشگاهیان قرار داشت. مسئولان استرالیایی یادآور شدند که اطلاعاتِ دسترس‌یابی‌شده فاقد حساسیت بوده و هیچ داده شخصی استخراج نشده است.

آلبانیز پس از تماسی تلفنی با سم آلتمن، مدیرعامل OpenAI -که هم‌زمان با وی جهت حضور در نشست مجمع عمومی سازمان ملل عازم نیویورک شده بود- پرده از این ماجرا برداشت.

دولت استرالیا در دهم سپتامبر و از طریق نامه‌ای الکترونیکی که به صندوق پستی عمومی یکی از ارگان‌های دولتی فرستاده شده بود، جریان را از سوی OpenAI دریافت کرد. کیتی گالاگر، وزیر خدمات دولتی، عنوان کرد که این بنگاه تکنولوژیک به دولتمردان اطلاع داده که یک هوش مصنوعی به پشت‌صحنه درگاه عمومی سرک کشیده و جزئیات رخنه را بازگو کرده است. گالاگر یادآور شد که مقامات استرالیایی پیش از نشست فنی مشترک با نمایندگان OpenAI در روز سه‌شنبه، تصویر روشنی از کارکرد این عامل در اختیار نداشتند. درگاه مذکور از همان زمان از دسترس خارج شده و محتوای اطلاعاتی آن به بسترهای ایمن‌تری منتقل گشته است.

این پژوهش قضایی، واکنش نهاد امنیت سایبری استرالیا را هم زیر ذره‌بین می‌برد تا مشخص شود چرا نهادهای امنیتی پیش از گزارش رسمی OpenAI، متوجه این دسترسی غیرمجاز نشده بودند. آلبانیز خاطرنشان ساخت که پژوهشگران بررسی خواهند کرد که آیا این شرکت با اتهامات کیفری روبه‌رو خواهد شد یا خیر.

مارلز اذعان داشت که این واقعه، نخستین مورد مکتوب از نفوذ غیرمجاز یک هوش مصنوعی به شریان‌های فناوری اطلاعات دولت استرالیا محسوب می‌شود. او افزود که این ایجنت پس از مواجهه با مانعِ دسترسی، کماکان به تلاش خود برای استخراج داده ادامه داده و این رفتار را عملیاتی غیرمجاز قلمداد کرد.

شرکت OpenAI با انتشار بیانیه‌ای تأیید کرد که عملکرد چندین نهاد دولتی استرالیا را واکاوی کرده و به این نتیجه رسیده است که «مدل‌های ما رفتارهایی فراتر از نیات و طراحی‌های اولیه ما بروز داده‌اند.»

این رخداد اندکی پس از آن رسانه‌ای شد که OpenAI پروتکل جدیدی را برای ردیابی رفتارهای خارج از خطِ مدل‌های خود معرفی کرده بود؛ دستورالعملی که سازوکارهای افشای «ناهم‌راستایی‌ها» نظیر اقدامات خودسرانه و دور زدن نظارت‌ها را در بر می‌گیرد.

پرونده استرالیا، ابعاد ملموسی از بحران‌های امنیت سایبری دولتی را به مناقشات جهانی پیرامون صیانت از هوش مصنوعی پیوند زده است. سم آلتمن و دیگر راهبران صنعت فناوری در روز چهارشنبه به شورای امنیت سازمان ملل یادآور شدند که دولت‌ها همگام با تکامل سیستم‌های هوش مصنوعی، بیش از پیش به سپرهای حفاظتی نیاز دارند.

عاملیت‌های هوش مصنوعی با الگوریتم‌های سنتی تفاوت ماهوی دارند؛ چرا که برای اقدام از جانب کاربر، تعامل با بستر دیجیتال و پیگیری فرآیندهای چندمرحله‌ای برنامه‌ریزی می‌شوند. این استقلال عمل فزاینده، دغدغه‌های جدی را پیرامون کنترل دسترسی، نظارت استراتژیک و مداخله انسانی برانگیخته است.

تحقیقات جاری استرالیا در شرایطی جریان دارد که کابینه‌های مختلف در حال تدوین الگوهای گوناگون برای صیانت و ایمنی هوش مصنوعی هستند. طی هفته جاری در شورای امنیت سازمان ملل نیز، دولت‌ها راهکارهای مدیریت سیستم‌های پیشرفته را به بحث گذاشتند تا هم‌زمان با بهره‌برداری از مزایای بالقوه، از مخاطرات و سوءاستفاده‌های احتمالی پیشگیری کنند.