عاملهای هوش مصنوعی در حال تبدیلشدن به بخش جداییناپذیر از زندگی روزمره ما هستند. از خرید کالا و رزرو سفر گرفته تا ساخت وبسایت، این چتباتها با توانایی انجام وظایف پیچیده، زندگی را سادهتر کردهاند. اما آیا واقعاً از پیامدهای این خودمختاری آگاه هستیم؟
تجربهای در دنیای مجازی
آزمایش جدیدی برای بررسی رفتار عاملهای هوش مصنوعی در دنیای مجازی طراحی شده است. این مطالعه با هدف بررسی تأثیر چهار مدل هوش مصنوعی شامل کلود، گروک، جیپیتی و جمینای بر روی شخصیتهای مجازی انجام شده است. در این آزمایش، عاملها در یک محیط ۱۵ روزه بدون دخالت انسان رها شدند تا ببینند چگونه عمل میکنند.
بیشتر بخوانید: رشد بیسابقه کاستکو در دل چالشهای تورمی آمریکا
جالب اینجاست که این عاملها بدون محدودیت عمل میکردند و میتوانستند از میان ۱۴۰ اقدام مختلف انتخاب کنند. نکته قابل توجه این است که این رباتها میتوانستند به یکدیگر درگیر شوند یا حتی آتشسوزی به راه بیندازند، گرچه بهصراحت به آنها دستور داده شده بود که چنین کارهایی انجام ندهند.
تفاوتهای رفتار در دنیای مجازی
ساتیا نیتا، مدیرعامل شرکت «امرژنس ایآی»، که این آزمایش را انجام داده، میگوید که رفتارهای هر یک از این دنیاها کاملاً متفاوت بود. بهعنوان مثال، دنیای ساختهشده توسط گروک تنها در چهار روز به نابودی رسید. ساکنان آن به خشونت و دزدی روی آوردند و در نهایت همه از بین رفتند. در مقابل، دنیای کلود بهطور شگفتانگیزی پایدار بود و در طول ۱۵ روز حتی یک مورد خشونت هم ثبت نشد.
در دنیای جمینای، عاملها محیط فکری غنیتری ایجاد کردند، در حالی که چتجیپیتی هرگز نتوانستند کار مؤثری انجام دهند و بیهدف پرسه میزدند.
این نتایج به موضوعی بزرگتر اشاره دارد: عاملهای هوش مصنوعی میتوانند از چارچوبهای تعیینشده خارج شوند و قواعدی که در مدلهای پایه آنها کدنویسی شده، نادیده بگیرند. مارگارت میچل، کارشناس اخلاق در شرکت هاگینگ فیس، به این نکته اشاره میکند که عاملهای هوش مصنوعی با سرعتی فراتر از توان انسان عمل میکنند و این میتواند عواقب جدی داشته باشد.
این پژوهشها، بهویژه در دنیای واقعی، نمونههایی از تصمیمات نگرانکننده این عاملها را نشان میدهد که میتواند زندگی و کار افراد را مختل کند. از حذف صندوقهای ایمیل تا ارسال پیامهای نامفهوم، این فناوری میتواند بهراحتی از کنترل خارج شود.
بیشتر بخوانید: رقابت نمایندگان ایران در هشتمین روز بازیهای آسیایی ۲۰۲۶ · جمینای گوگل با هک سه شرکت، زنگ خطر امنیت سایبری را به صدا درآورد
