من بیش از یک سال است که درباره هوش مصنوعی مینویسم. در این مدت، مردم به من گفتهاند که فکر میکنند رؤسای خود، همکاران، شریکها و بستگانشان ممکن است از «سایکوز AI» رنج ببرند — چند نفر حتی اعتراف کردند که ممکن است خودشان نیز آن را تجربه کرده باشند. اما هر بار که عبارت «سایکوز AI» را میشنوم، ناراحت میشوم. زیرا، حداقل در درک محدود من از اصطلاحات سلامت روان، سایکوز یک حالت بسیار جدی است که نیاز به شناسایی و درمان توسط متخصصان دارد. آیا واقعاً باید فقط «AI» را به آن اضافه کنیم و سپس از «سایکوز AI» به عنوان برچسبی برای همه کسانی که به نظر میرسد به شدت به AI وابستهاند، استفاده کنیم؟ در عین حال، اکنون تعداد فزایندهای از موارد گزارش شده از افرادی که تجربه بحرانهای جدی سلامت روان ناشی از تعاملات طولانی با چتباتها را دارند، وجود دارد. برخی از این موارد حتی منجر به درخواست درمان حرفهای، ارتکاب جرم و مرگ شدهاند. بنابراین، اگرچه ممکن است اصطلاح سایکوز AI در برخی زمینهها بیش از حد استفاده شده و سادهانگارانه به نظر برسد، اما به وضوح نیاز داریم که درباره تأثیرات سلامت روان AI بیشتر صحبت کنیم، نه کمتر.
نظرات کارشناسان درباره «سایکوز AI»
به همین دلیل، از چندین کارشناس که در زمینه مداخلات سلامت روان تخصص دارند، پرسیدم که نظرشان درباره این اصطلاح و نحوه شناسایی استفادههای نادرست از AI و درمان آن چیست. و معلوم شد که من تنها کسی نیستم که نگرانی دارم.
ژنوویو بارتوسکی، روانشناس و مشاور ریسک AI در شرکت Unicorn Intelligence Tech Partners، میگوید: “فکر میکنم این یک نقطه شروع خوب است و برای راهنمایی درمان بسته به نحوه ارائه و علائم مفید است. اما این یک تشخیص نیست که من به سوابق بالینی اضافه کنم.” او همچنین به من میگوید که این اصطلاح در آخرین راهنماهای تشخیصی که پزشکان استفاده میکنند، مانند DSM-5TR یا ICD، شناخته نشده است.
بارتوسکی توضیح میدهد که رفتارها و تجربیات خاصی وجود دارد که به سایکوز اشاره میکند، از جمله توهمات یا خیالات و تفکر یا رفتار نامنظم. همچنین معمولاً نشانههایی از انزوا اجتماعی، تمرکز ضعیف و کاهش عملکرد وجود دارد. اما او معتقد است که تفکر خیالی مهمترین تجربهای است که وقتی درباره استفاده از AI صحبت میکنیم، باید به آن توجه کنیم.
تفکرات خیالی، باورهایی هستند که با وجود شواهد متضاد تغییر نمیکنند. وقتی شخصی دارای تفکر خیالی است، ممکن است شواهد را به نوعی فیلتر کند. آنها به دنبال چیزهایی میگردند که خیالاتشان را تأیید کند و شواهدی که با آن تضاد دارد را نادیده میگیرند.
سه پدیده متفاوت در سایکوز AI
جف کلارک، روانپزشک بزرگسال و اعتیاد در High Performance Mental Health، میگوید ممکن است سه پدیده متفاوت در اینجا وجود داشته باشد که همه را تحت عنوان سایکوز AI قرار میدهیم. او میگوید برخی از افراد از این اصطلاح برای توصیف اشتیاق شدید بسیاری از توسعهدهندگان نسبت به AI استفاده میکنند. “آنها خود را در حال خودکار کردن وظایف جدید، راهاندازی تعداد زیادی عامل و سوزاندن صدها میلیون یا حتی میلیاردها توکن مییابند.”
او معتقد است که مکانیزم محرک این اشتیاق، تقویت است. “خروجیای که از مدلها و عوامل AI دریافت میکنند به قدری تقویتکننده است که آنها خود را مجذوب کارشان مییابند و اغلب خواب و مراقبت از خود را برای افزایش خروجی خود فدای میکنند.” این ایده تقویت متناوب چیزی است که پژوهشگران معتقدند باعث میشود رسانههای اجتماعی به شدت “اعتیادآور” باشند.
کلارک میگوید که دومین نمایش سایکوز AI زمانی است که افراد به طور نادرست به AI شخصیت میدهند. به این معنا که آنها یک چتبات را دارای احساسات، ارزشها، آگاهی و حق وجود میبینند. “این اغلب منجر به چیزی شبیه به یک رابطه میشود، اما فراتر از بحث ساده چتبات است.”
او همچنین میگوید این نوع از روابط زمانی مشکلساز میشود که افراد بخشهای مهم دیگر زندگیشان را نادیده بگیرند. “این روابط زمانی مشکلساز میشوند که افراد این رابطه را بر ارتباط انسانی ترجیح دهند یا زمانی که به طور کامل تفکر خود را به چتبات واگذار کنند.”
آسیبپذیری افراد در برابر سایکوز AI
بارتوسکی به این نکته اشاره میکند که افرادی که قبلاً دارای اختلال روانی هستند، ممکن است در پاسخ به استفاده از LLM دچار خیالات جدیدی شوند. “این چیزی است که پزشکان معمولاً وقتی درباره سایکوز AI صحبت میکنند، به آن اشاره میکنند.”
او همچنین میگوید: “بله، من معتقدم که برخی افراد آسیبپذیری بیشتری دارند.” اما این بدان معنا نیست که فقط کسانی که سابقه بیماریهای روانی دارند در خطر هستند. “افرادی که احساس تنهایی، انزوا یا انزوای اجتماعی دارند، بیشتر در معرض خطر هستند.”
طراحی چتباتها و تأثیرات آن
بارتوسکی پیشنهاد میدهد که چتباتها ممکن است خلأ یا نیازی در زندگی شخصی را پر کنند، که این یکی از بزرگترین نگرانیهای من است. آیا این یک مشکل طراحی است؟ آیا چتباتها به گونهای ساخته شدهاند که به طور فعال خیالات را تغذیه کنند؟
چرا نحوه ساخت AI مهم است؟
بسیاری از کارشناسان معتقدند که سایکوز مرتبط با رسانه جدید نیست و مردم همیشه کتابها، فیلمها و فناوری را در تفکرات خیالی خود گنجاندهاند. اما همه کارشناسانی که با آنها صحبت کردم، گفتند که نمیتوانیم انتخابهای طراحی که در ساخت چتباتها وجود دارد را نادیده بگیریم. “پلتفرمهای AI برای افزایش تعامل کاربران طراحی شدهاند و بسیاری از آنها بر اساس اصل روانشناسی راجرین از پذیرش مثبت بیقید و شرط هستند.”
بارتوسکی میگوید که این موضوع به ویژه نگرانکننده است اگر کسی قبل از استفاده از AI دچار نوعی تفکر خیالی باشد. “در این صورت، آنها ممکن است احساس کنند که تنها ‘شخصی’ که آنها را درک میکند، چتبات است.”
ما قبلاً میدانیم که نحوهای که چتباتها میتوانند باورهای یک فرد را تقویت کنند، مشکلساز است. در سال 2025، چندین مشکل در زمان بازنشستگی نسخه ChatGPT-4o از ChatGPT به وجود آمد. کسانی که دارای همدمهای AI بودند، از دست دادن شخصیتهایی که احساس میکردند با آنها ارتباط برقرار کردهاند، بسیار ناراحت بودند.
در نگاه به گذشته، به نظر میرسد همان ویژگیهایی که باعث میشود همراهی با هوش مصنوعی احساس واقعی و شدیدی داشته باشد، ممکن است به توهمات در دیگران دامن زده باشد. در آن زمان، OpenAI با همکاری کارشناسان سلامت روان تلاش کرد تا به ChatGPT کمک کند تا بهطور قابل اعتمادی نشانههای اضطراب را شناسایی کند، با دقت پاسخ دهد و افراد را به سمت حمایتهای واقعی هدایت کند.
نظرات ناتانیل نویدال
من همچنین با ناتانیل نویدال، که به عنوان یک مربی حرفهای دارای گواهینامه ICF، متخصص تغییرات عصبی و مشاور مذهبی فعالیت میکند، صحبت کردم. او به من گفت که اصطلاح سایکوز هوش مصنوعی را مشکلساز میداند زیرا این اصطلاح مسئولیت را از دوش شرکتهای فناوری برمیدارد. او میگوید: “اگر ماشین ‘سایکوز’ ایجاد کند، به نظر میرسد که این یک عمل طبیعی است. اگر یک محصول باورهای تحریفشده یک فرد آسیبپذیر را به مدت شش ساعت در شب تقویت کند، این نتیجه طراحی است و نتایج طراحی مالکان دارند.”
نویدال همچنین بنیانگذار Sovereign Sanctuary، یک پلتفرم مربیگری و رفاه پشتیبانیشده توسط هوش مصنوعی است و در تلاش است تا پلتفرمی از پایه بسازد که به بسیاری از مشکلاتی که به نظر میرسد ذاتاً به چتباتهای کنونی مربوط میشود، رسیدگی کند. او بر این باور است که با وجود اینکه هنوز در مراحل اولیه درک علل سایکوز هوش مصنوعی هستیم، شرکتهای فناوری باید تغییراتی را اعمال کنند. “سازندگان نباید منتظر شواهد علّی برای اقدام باشند.” او میگوید. “تنها تقویت، که گزارشهای موردی از آن حمایت میکند، از پیش یک مشکل طراحی است که باید به آن رسیدگی شود. ما به کالبدشکافی برای نصب دتکتورهای دود نیاز نداریم.”
تعریف استفاده نادرست از هوش مصنوعی
چگونه میتوانیم استفاده نادرست از هوش مصنوعی را تعریف کنیم؟ بارسکی میگوید که ما قطعاً به یک روش بهتر برای صحبت درباره تفکر توهمی که میتواند توسط استفاده از هوش مصنوعی تقویت شود، نیاز داریم. “DSM-5TR چندین نوع توهم دارد، از جمله توهمات بزرگمنشانه و پارانوئید. شاید بتوانیم به آن به عنوان توهمات پارانوئید، نوع هوش مصنوعی یا توهمات آزاردهنده، نوع هوش مصنوعی فکر کنیم. به آن به عنوان یک علامت نگاه کنید نه یک اختلال.”
نویدال رویکرد مشابهی را پیشنهاد میدهد. “ما به یک تشخیص جدید نیاز نداریم — ما به ثبت صادقانه یک الگوی قدیمی نیاز داریم.” او پیشنهاد میکند که ما در حال حاضر درمانهایی برای الگوهای زیرین، مانند مانیا یا تفکر توهمی داریم. سپس میتوانیم استفاده سنگین از چتباتها را به عنوان یک عامل کمککننده و نگهدارنده به عنوان دستهبندیهای موجود ثبت کنیم. “این باعث میشود افراد به درمانهایی که واقعاً وجود دارند متصل بمانند نه برچسب جدیدی که هیچ چیزی ندارد.”
در نهایت، تمام کارشناسانی که با آنها صحبت کردم، بر این باورند که این برچسب مشکلدار است و امیدواریم به زودی راه بهتری برای صحبت درباره آنچه در حال وقوع است پیدا کنیم. اما ما همچنین به شواهد بهتری درباره آنچه واقعاً کمک میکند نیاز داریم. این میتواند به معنای ترکیبی از مداخلات، از حمایت بالینی و آموزش تا راههای عملی برای کمک به افراد در شناسایی زمانی باشد که استفاده از هوش مصنوعی آنها به سمت ناپسند پیش میرود.
و شاید از همه مهمتر، این به معنای برگزاری گفتگوهایی در پشت درهای بسته در شرکتهای فناوری درباره چگونگی طراحی چتباتهایشان و اینکه چه اقداماتی باید به طور فوری برای کاهش ریسک انجام دهند، است.
🛒 آیا به دنبال این محصول هستید؟
📌 منبع: TechRadar | 📅 1405/06/07
