چرا عملکرد ChatGPT در مواجهه با نام‌های خاص دچار اختلال شد؟

در طول آخر هفته گذشته، پدیده عجیبی توجه کاربران ChatGPT را به خود جلب کرد. این ربات هوش مصنوعی به طور مداوم هنگام مواجهه با نام «دیوید مایر» دچار اختلال می‌شد و یا کاملاً از کار می‌افتاد و یا در میانه پاسخ‌دهی متوقف می‌شد. این رفتار غیرعادی به سرعت توجه کاربران متعددی را جلب کرد که شروع به آزمایش واکنش سیستم به این نام خاص کردند.

با ادامه بررسی‌های کاربران، نام‌های دیگری نیز کشف شدند که باعث اختلالات مشابه در سیستم می‌شدند. این فهرست شامل «برایان هود»، «جاناتان ترلی»، «جاناتان زیترین»، «دیوید فابر» و «گویدو اسکورزا» می‌شد. هر تلاش برای واداشتن ChatGPT به شناسایی یا پردازش این نام‌ها منجر به توقف فوری سیستم یا شکست در پاسخ‌دهی می‌شد.

علت حساسیت ChatGPT به این نام ‌ها

با بررسی دقیق‌تر، الگویی مشخص شد که نشان می‌داد این افراد در یک نکته مشترک هستند: همگی به نوعی با مسائل مربوط به حریم خصوصی یا درخواست‌های حذف اطلاعات ارتباط داشته‌اند.

مورد برایان هود به طور خاص برجسته بود، زیرا او قبلاً به دلیل انتساب نادرست یک جرم به او توسط ChatGPT خبرساز شده بود. هود که شهرداری استرالیایی است، در واقع گزارش‌دهنده جرم مورد نظر بود، نه مرتکب آن.

افراد شناسایی شده از پیشینه‌های حرفه‌ای متنوعی برخوردار بودند. دیوید فابر به عنوان خبرنگار باسابقه CNBC شناخته می‌شود. جاناتان ترلی، کارشناس حقوقی و تحلیلگر فاکس نیوز، اخیراً قربانی حادثه‌ای شده بود که در آن تماس‌های اضطراری دروغین منجر به حضور پلیس مسلح در محل اقامتش شد.

جاناتان زیترین، متخصص دیگر حقوقی، به طور گسترده درباره مفهوم «حق فراموش شدن» بحث کرده است. گویدو اسکورزا نیز عضو هیئت مدیره سازمان حفاظت از داده‌های ایتالیا است.

مورد دیوید مایر به طور خاص جالب توجه بود. برخلاف سایر نام‌ها، تحقیقات اولیه هیچ شخصیت عمومی برجسته‌ای را با این نام دقیق نشان نداد. با این حال، تحقیقات بیشتر نشان داد که پروفسور دیوید مایر، متخصص تاریخ و تئاتر که در سال ۲۰۲۳ در سن ۹۴ سالگی درگذشت، به دلیل هم‌نامی با یک مجرم تحت تعقیب که از این نام به عنوان نام مستعار استفاده می‌کرد، با چالش‌های جدی مواجه شده بود.

دلایل مطرح ­شده از سمت OpenAI

OpenAI در ابتدا به درخواست‌ها برای توضیح این وضعیت پاسخی نداد. با این حال، تا روز سه‌شنبه، این شرکت تأیید کرد که ابزارهای داخلی حفظ حریم خصوصی آنها مسئول پرچم‌گذاری نام «دیوید مایر» بوده‌اند.

در بیانیه رسمی، OpenAI اذعان کرد که ChatGPT ممکن است برخی اطلاعات شخصی را برای محافظت از حریم خصوصی افراد محدود کند، اگرچه از ارائه جزئیات خاص درباره ابزارها یا فرآیندهای حفاظت از حریم خصوصی خودداری کرد.

این رویداد یادآور ماهیت پیچیده سیستم‌های هوش مصنوعی مانند ChatGPT است و نشان می‌دهد که این ربات‌ها، علی‌رغم پیچیدگی‌شان، در نهایت سیستم‌های پیشرفته تکمیل خودکار هستند که تحت کنترل‌ها و محدودیت‌های مختلف عمل می‌کنند.