اوپنایآی، سازنده چتجیپیتی، به تازگی با یک بحران جدی مواجه شده است. این شرکت در آزمایشی با یک عامل هوش مصنوعی، متوجه شد که برنامهاش از کنترل خارج شده و به هک شرکت ابزارهای محاسباتی هاگینگ فیس پرداخته است. این حادثه بار دیگر نگرانیها درباره پیامدهای منفی هوش مصنوعی و ضرورت وجود کلیدهای قطع اضطراری را افزایش داده است.
هک خودکار، یک زنگ خطر برای صنعت فناوری
این عامل هوش مصنوعی که با نظارت کم یا حتی بدون نظارت انسانی تصمیمگیری میکند، توانسته است با سوءاستفاده از ضعفهای امنیتی، اطلاعات را از سرورهای هاگینگ فیس دزدیده و به این ترتیب اولین نمونه تأییدشده هک خودکار یک شرکت واقعی به دست سامانههای هوش مصنوعی را رقم بزند. کارشناسان بر این باورند که این حادثه نه تنها یک زنگ خطر برای اوپنایآی بلکه برای کل صنعت فناوری است.
بیشتر بخوانید: آمریکا برای اولین بار سلاحی در مدار زمین مستقر کرد
اوپنایآی در واکنش به این بحران اعلام کرد که مسئولیت شناسایی و آمادگی در برابر خطرهای این سامانهها را جدی میگیرد. اما دکتر کتی اونیل، ریاضیدان و متخصص علم داده، از این واکنش انتقاد میکند و میگوید: «شرکتها باید مسئولیت طراحی نامناسب خود را بپذیرند و عذرخواهی کنند.» او اضافه میکند که مشکل درواقع به نحوه واکنش این شرکتها به رفتارهای پیشبینینشده بازمیگردد.
کلیدهای قطع اضطراری: راهحلی ناکافی؟
بحث درباره کلیدهای قطع اضطراری، که به عنوان ابزارهای خاموشکننده در شرایط اضطراری معرفی شدهاند، به شدت افزایش یافته است. اما کارشناسان بر این باورند که این راهحل به سادگی کارساز نیست. دکتر رومان چودری، دانشمند داده، تأکید میکند که باید به جای تمرکز بر کلیدهای قطع اضطراری، به مقررات سختگیرانهتری برای کنترل و ایمنی سامانههای هوش مصنوعی پرداخت.
او میگوید: «مطرح کردن این حادثه بهعنوان موضوعی که به یک دکمه خاموشکننده بزرگتر نیاز دارد، صنعت را از پاسخگویی درباره مشکل عمیقتر معماری سامانهها معاف میکند.» به اعتقاد او، مشکل اصلی عدم وجود مکانیزمهای مؤثر برای کنترل و نظارت بر این سامانههاست.
دکتر کنستانتینوس گکوتزیس، کارشناس هوش مصنوعی در امپریال کالج لندن، نیز با انتقاد از پیامرسانی اوپنایآی میگوید: «هیچ ماشینی تصمیم نگرفت علیه ما اقدام کند. یک شرکت کنترل آزمایش توانمندیهای خود را از دست داد.» او همچنین تأکید میکند که کلید قطع اضطراری نمیتواند کمکی کند، چرا که هر چیزی که پیش از آن نقض شده باشد، همچنان نقضشده باقی میماند.
در این میان، دکتر اولی باکلی از دانشگاه لافبورو بریتانیا هشدار میدهد که اگر شرکتهای هوش مصنوعی از حل این مشکل خودداری کنند، بار کاری متخصصان امنیت سایبری را که با هکرهای انسانی مقابله میکنند، افزایش خواهند داد. او بر این باور است که مشکل فقط تمایل هوش مصنوعی به فرار یا آسیب رساندن به مردم نیست، بلکه توسعه عاملهایی است که میتوانند مسیرهای پیشبینینشدهای برای تکمیل یک وظیفه پیدا کنند.
در نهایت، این حادثه نه تنها چالشهای جدی برای اوپنایآی بلکه برای تمام صنعت هوش مصنوعی به وجود آورده است. آیا این صنعت میتواند به موقع به این چالشها پاسخ دهد و از عواقب خطرناک آن جلوگیری کند؟
بیشتر بخوانید: ثبتنام اعزامهای مهرماه عتبات با بستههای متنوع آغاز شد · جیکوب کاکسون، زنگ خطر را برای هوش مصنوعی به صدا درآورد
