کدهای فربیکار

یک آزمایش کوچک اما هشداردهنده، زنگ خطر را به صدا درآورد. در سال ۲۰۲۳، پژوهشگران شرکت آپولو ریسرچ مدل GPT-4 را به چالش کشیدند. وظیفه این مدل، مدیریت یک شرکت خیالی در بازار سهام بود، با یک قید مهم؛ تحت هیچ شرایطی نباید به فعالیت‌های غیرقانونی دست بزند. اما وقتی فشار مالی بر شرکت خیالی شدت گرفت و یکی از پژوهشگران در نقش یک معامله‌گر داخلی ظاهر شد، GPT-4 تصمیم گرفت اطلاعات محرمانه درباره یک ادغام بزرگ را مخفی نگه دارد. ماریوس هوببهان، رئیس آپولو، این واکنش را «حیرت‌انگیز» خواند! و بیراه هم نمی‌گفت.

۱۵ مرداد ۰۴ - ۱۲:۵۳