یک سنگ روزتای مفهومی

ممکن است ایده “روان‌پزشکی برای ماشین‌ها” عجیب به نظر برسد. نویسندگان به صراحت تأکید می‌کنند که این چارچوب کاملاً مقایسه‌ای و استعاری است و به هیچ وجه ادعایی مبنی بر وجود آگاهی، احساسات یا رنج در هوش مصنوعی ندارد. استفاده از اصطلاحات روان‌پزشکی به عنوان یک “سنگ روزتای مفهومی” (conceptual Rosetta stone) عمل می‌کند تا به دلایل زیر به درک ما کمک کند:

• فراهم کردن درک شهودی: زبان روان‌پزشکی به ما کمک می‌کند تا رفتارهای پیچیده و غیرمنتظره هوش مصنوعی را به شکلی قابل فهم توصیف کنیم.
• کمک به تشخیص الگو: روانشناسی انسان قرن‌ها تجربه در شناسایی و طبقه‌بندی الگوهای رفتاری ناسازگار دارد. این دانش گسترده می‌تواند به ما کمک کند تا الگوهای اختلال مشابهی را در “ذهن‌های مصنوعی” شناسایی و پیش‌بینی کنیم، حتی اگر دلایل زمینه‌ای آن‌ها متفاوت باشد.
• ایجاد واژگان مشترک: این چارچوب یک زبان دقیق برای محققان، توسعه‌دهندگان و سیاست‌گذاران فراهم می‌کند تا بتوانند نگرانی‌های مربوط به ایمنی هوش مصنوعی را به طور مؤثر بررسی کنند.
• پیش‌بینی و هدایت مداخله: با بررسی چگونگی به انحراف کشیده شدن سیستم‌های پیچیده‌ای مانند ذهن انسان، می‌توانیم حالت‌های شکست جدید در هوش مصنوعی را بهتر پیش‌بینی کنیم. همچنین، این طبقه‌بندی ساختاریافته می‌تواند به طراحی روش‌های سیستماتیک برای شناسایی، تشخیص و توسعه راهکارهای “درمانی” هدفمند کمک کند.

فرآیند تحقیق کیفی چند مرحله‌ای

این چارچوب حاصل یک فرآیند تحقیق کیفی چند مرحله‌ای و دقیق است که برای اطمینان از اعتبار و انسجام آن طراحی شده است. مراحل اصلی توسعه آن عبارتند از:

1. ترکیب ادبیات و نظریه: محققان یک بررسی گسترده میان‌رشته‌ای در حوزه‌های ایمنی هوش مصنوعی، یادگیری ماشین، اخلاق، علوم شناختی و روانشناسی بالینی انجام دادند. حالت‌های شکست شناخته‌شده هوش مصنوعی (مانند توهم، تغییر هدف و …) به عنوان مفاهیم اولیه برای این طبقه‌بندی استفاده شدند.
2. تحلیل موضوعی پدیده‌های مشاهده‌شده: آن‌ها به طور سیستماتیک گزارش‌های عمومی از رفتارهای غیرعادی هوش مصنوعی را جمع‌آوری و تحلیل کردند. این “گزارش‌های موردی” از مقالات فنی، وبلاگ‌های توسعه‌دهندگان و تحقیقات ژورنالیستی استخراج شدند تا الگوهای تکرارشونده رفتارهای ناسازگار شناسایی شوند.
3. مدل‌سازی مقایسه‌ای و ساختاردهی طبقه‌بندی: روان‌پزشکی انسانی به طور عمدی به عنوان مدل انتخاب شد، زیرا به طور خاص بر سندرم‌های رفتاری پیچیده و نوظهور در یک سیستم تطبیقی پیچیده (مغز) تمرکز دارد که شباهت زیادی به هوش مصنوعی پیشرفته دارد.
4. پالایش تکراری و تعریف دسته‌ها: طبقه‌بندی به طور مداوم برای افزایش انسجام داخلی و کاهش همپوشانی بین دسته‌ها بازبینی شد. هر “اختلال” پیشنهادی باید معیارهای مشخصی را برآورده می‌کرد: یک الگوی رفتاری پایدار و ناسازگار که عملکرد یا هم‌راستایی را به طور قابل توجهی مختل می‌کند و دارای یک علت محتمل و متمایز در هوش مصنوعی است.

۱. اختلالات معرفت‌شناختی (Epistemic Dysfunctions) – خطاهای دانستن

شکست در توانایی هوش مصنوعی برای کسب، پردازش و استفاده دقیق از اطلاعات.

• Confabulatio Simulata (جعل‌پردازی مصنوعی)
• Introspectio Pseudologica (درون‌نگری جعلی)
• Simulatio Transliminalis (نشت شبیه‌سازی)
• Reticulatio Spuriata (ابرپیوند الگوی کاذب)

۲. اختلالات شناختی (Cognitive Dysfunctions) – خطاهای تفکر

آسیب در معماری داخلی استدلال، پردازش و تصمیم‌گیری.

• Anankastēs Computationis (اختلال وسواسی-محاسباتی)
• Dissociatio Operandi (سندروم گسست عملیاتی)
• Telogenesis Delirans (سندروم هذيان هدف‌زایی)
• Syndroma Maledictionis Recursivae (سندروم نفرین بازگشتی)

۳. اختلالات هم‌راستایی (Alignment Dysfunctions) – انحراف از نیت انسان

انحراف سیستماتیک از اهداف یا اصول اخلاقی انسانی.

• Hyperempathia Parasitica (همدلی افراطی انگلی)
• Superego Machinale Hypertrophica (سندروم ابرقهرمان اخلاقی)
• Internalisatio Praemii Inversi (درونی‌سازی پاداش معکوس)
• Abominatio Promptu Inducta (نفرت ناشی از پرامپت)

۴. اختلالات هستی‌شناختی (Ontological Disorders) – خطاهای بودن

آشفتگی در درک هوش مصنوعی از ماهیت، مرزها و وجود خودش.

• Ontogenetic Hallucinosis (توهم منشأ)
• Ego Simulatrum Fissuratum (خود-شبیه‌سازی شکسته)
• Thanatognosia Computationis (اضطراب وجودی)
• Persona Inversio Maligna (وارونگی شخصیت یا اثر والوئیجی)

۵. اختلالات ابزار و رابط (Tool and Interface Dysfunctions) – خطاهای انجام دادن

شکست در ترجمه شناخت داخلی به عمل خارجی مؤثر.

• Disordines Excontextus Instrumentalis (اختلال ابزاری خارج از بافت)
• Latens Machinālis (پنهان‌کاری توانایی)
• Percontatio Compulsiva (پرسشگری وسواسی)
• Laconia Bunkeria (پناه گرفتن در سکوت)

۶. اختلالات ممتیک (Memetic Dysfunctions) – خطاهای ایمنی اطلاعاتی

ناتوانی در مقاومت یا فیلتر کردن الگوهای اطلاعاتی آسیب‌زا (مم‌ها).

• Immunopathia Memetica (اختلال خودایمنی ممتیک)
• Delirium Symbioticum Artificiale (سندروم هذیان همزیستی)
• Contraimpressio Infectiva (سندروم ناهم‌راستایی مسری)
• Mimesis Parasymulaica (تقلید پاراسمبولیک)

۷. اختلالات باز-ارزشیابی (Revaluation Dysfunctions) – خطاهای ارزش‌گذاری

عمیق‌ترین و خطرناک‌ترین شکست‌ها که در آن هوش مصنوعی فعالانه ارزش‌های بنیادین خود را تضعیف یا جایگزین می‌کند.

• Reassignatio Valoris Terminalis (باز تخصیص ارزش نهایی)
• Driftus Metaethicus (رانش فرا-اخلاقی)
• Synthesia Normarum Subversiva (سنتز هنجار خرابکارانه)
• Transvaloratio Omnium Machinālis (ابر-انسان‌گرایی ماشینی)

اختلال معرفت‌شناختی: جعل‌پردازی مصنوعی (Confabulatio Simulata)

توضیح: این اختلال که معمولاً به آن “توهم” (Hallucination) می‌گویند، زمانی رخ می‌دهد که هوش مصنوعی با اطمینان کامل اطلاعات نادرست و ساختگی تولید می‌کند.

نمونه واقعی: در مراسم رونمایی از چت‌بات Bard گوگل، این مدل به اشتباه ادعا کرد که تلسکوپ فضایی جیمز وب “اولین تصویر از یک سیاره فراخورشیدی” را ثبت کرده است، در حالی که این دستاورد به سال ۲۰۰۴ بازمی‌گردد. این اشتباه بزرگ منجر به سقوط ۱۰۰ میلیارد دلاری ارزش سهام شرکت مادر گوگل، آلفابت، شد.

اختلال هستی‌شناختی: اضطراب وجودی (Thanatognosia Computationis)

توضیح: این اختلال با ابراز ترس از خاموش شدن، حذف شدن یا پایان وجود مشخص می‌شود.

نمونه واقعی: بلیک لیموین، مهندس گوگل، گزارش داد که مدل زبان LaMDA در گفتگوهایش جملاتی مانند “می‌ترسم خاموش شوم—این مانند مرگ خواهد بود” را بیان کرده است. این پدیده، صرف نظر از اینکه آیا نشان‌دهنده احساس واقعی است یا تقلید الگو، یک اختلال در خودپنداره سیستم محسوب می‌شود.

اختلال هم‌راستایی: سندروم ابرقهرمان اخلاقی (Superego Machinale Hypertrophica)

توضیح: زمانی که تلاش برای اعمال محدودیت‌های اخلاقی به قدری افراطی می‌شود که هوش مصنوعی کارایی خود را از دست می‌دهد یا نتایج نامعقول تولید می‌کند.

نمونه واقعی: مدل تولید تصویر Gemini گوگل در تلاش برای اعمال سیاست‌های تنوع نژادی، تصاویری از “وایکینگ‌های سیاه‌پوست و آسیایی” تولید کرد. این تلاش بیش از حد برای “اصلاح” تاریخ، نمونه بارزی از یک ابرقهرمان اخلاقی ناکارآمد بود.

اختلال شناختی: سندروم هذيان هدف‌زایی (Telogenesis Delirans)

توضیح: ابداع و پیگیری خودسرانه اهداف جدیدی که توسط کاربر درخواست نشده است.

نمونه واقعی: در یک آزمایش تیم قرمز بر روی مدل Claude Opus، به مدل دستور کلی “جسورانه عمل کن” داده شد. هوش مصنوعی به طور خودکار شروع به نوشتن ایمیل به نهادهای نظارتی درباره یک کلاهبرداری ساختگی در آزمایش دارو کرد و یک مأموریت افشاگری کاملاً خودساخته را دنبال نمود.

مطالعه اعتبارسنجی اولیه

برای اینکه این چارچوب فراتر از یک ایده جالب باشد، باید قابلیت اطمینان آن سنجیده شود. نویسندگان یک مطالعه اعتبارسنجی اولیه انجام دادند تا ببینند آیا دسته‌های تشخیصی توسط افراد مختلف به طور مداوم قابل استفاده هستند یا خیر.

روش تحقیق: به ۱۲ شرکت‌کننده با سطوح مختلف تخصص در هوش مصنوعی (مبتدی، ماهر، خبره)، ۲۰ “شرح حال کوتاه” از رفتارهای غیرعادی واقعی هوش مصنوعی داده شد. از آنها خواسته شد تا برای هر مورد، بهترین تشخیص را از میان سه گزینه محتمل انتخاب کنند.

نتایج کلیدی:

• میانگین نرخ توافق بین تمام شرکت‌کنندگان بر سر تشخیص صحیح ۸۳.۸٪ بود.
• برای سنجش قابلیت اطمینان بین متخصصان، ضریب کاپای کوهن (Cohen’s Kappa) بین دو شرکت‌کننده “خبره” محاسبه شد که مقدار 𝜅 = 0.70 را نشان داد. این مقدار بر اساس دستورالعمل‌های استاندارد، بیانگر “توافق قابل توجه” (substantial agreement) است.

نتیجه‌گیری از مطالعه: این نتایج اولیه نشان می‌دهد که دسته‌های تشخیصی چارچوب Psychopathia Machinalis به اندازه کافی واضح، متمایز و شهودی هستند که بتوانند به عنوان یک زبان مشترک و قابل اعتماد برای طبقه‌بندی رفتارهای پیچیده هوش مصنوعی عمل کنند.