هنوز در حال بحث بودیم که چرا نباید ویکی‌پدیا را منبع بی‌چون‌وچرای ادعاهای مختلف در نظر گرفت که هوش مصنوعی از راه رسید. در جبهه ویکی موفقیت‌های محدودی حاصل شده بود و شانس موفقیت‌های بیشتری در کار بود اما در جبهه هوش مصنوعی از پیش قافیه را باخته‌ایم. کاربرهای توییتر هم‌زمان با شرکت در بحث‌های داغ و پرحاشیه به شکل مداوم گروک را صدا می‌زنند و باقی، اسکرین‌شات‌های چت‌جی‌پی‌تی را هم‌چون منبع حقیقت مطلق دست به دست می‌کنند. هوش مصنوعی می‌تواند ذهن غیرانتقادی را یک‌سره تباه کند؛ به شیوه‌ای قوی‌تر و خطرناک‌تر از قبل.
اول اینکه از خاطر نبریم همین حالا هم تکنولوژی وجوه منفی‌اش را تا حد قابل ملاحظه‌ای در فرسودن مهارت‌های شناختی نمایش داده است. بعضی تحقیقات نشان می‌دهند ظرفیت‌های ذهنی انسان طی دهه گذشته رو به کاهش رفته است. ما کمتر به خاطر می‌سپاریم، کمتر تحلیل می‌کنیم و اساسا کمتر از مغزمان کار می‌کشیم. در فرایند واگذاری شناختی، تکنولوژی تا همین سال‌ها و حتی پیش از ورود هوش مصنوعی هم اختیار کار را به دست گرفته بود. با معرفی هوش مصنوعی شتاب همان فرایندها دوچندان شده و ظرف مدت کوتاهی چندبرابر هم می‌شود.
اما مشکل جدی‌تر هوش مصنوعی یا بهتر است بگوییم مشکل جدی‌تر مواجهه ذهن غیرانتقادی با هوش مصنوعی پذیرش بی‌چون‌وچرای پاسخ‌هاست. دهه‌ها پیش برای پاسخ به پرسش‌ها باید در کتاب‌خانه‌ها دنبال منابع می‌گشتیم. کتاب‌هایی که دست کم شناخته‌شده‌ترهایشان از آزمون زمان سربلند بیرون آمده بودند. مدتی بعد با وبسایت‌ها و موتور جست‌وجو سروکار داشتیم. منابعی بعضا کم‌اهمیت‌تر و کم‌ارزش‌تر، مهم‌تر از آن منابعی که کمتر صحت‌سنجی شده بودند. با این وجود احتمالا متوجه بودیم که فلان وبلاگ گمنام لزوما منبع قابل اتکایی نیست و جایگاه مطلب در موتور جست‌وجو ارتباط تنگاتنگی با صحت و کیفیت احتمالی‌ش ندارد.
در دوران هوش مصنوعی با یک چراغ جادوی همه‌چیزدان طرفیم که پاسخ همه سوال‌ها را در آستین دارد اما منبع بخش بزرگی از اطلاعاتش همان دانش موجود فضای وب است؛ گاهی بسیار زرد یا کم‌مایه. همان‌ها این‌بار با صورت‌بندی جدید در قالب حقایق مطلق از زبان مرجع پراقتدار بیان می‌شوند. ذهنی که شاید پیش‌تر قادر بود کمی جنبه‌های انتقادی‌ش را حفظ کند حالا خیلی بیشتر متمایل است با تنبلی همین پاسخ/فصل الخطاب را بپذیرد.
دست آخر نباید از یاد برد که هوش مصنوعی، اساسا در سطح طراحی‌اش به شکلی ساخته و پرداخته شده که به تمام سوالات شما پاسخ دهد. هوش مصنوعی به ندرت می‌گوید نمی‌دانم و در نتیجه از فضیلت بزرگی محروم است. وقتی «نمی‌دانم» یکی از پاسخ‌ها نباشد یعنی هوش مصنوعی موظف است برای هر سوالی پاسخ تولید کند. تبدیل‌شدن به دستگاه تولید پاسخ، هذیان‌گویی را به یکی از بخش‌های جدایی‌ناپذیر غالب ابزارهای هوش مصنوعی فعلی تبدیل کرده اما جوابِ به‌کلی باطل احتمالی یک هوش مصنوعی در ساختاری بزک می‌شود که تردید در آن بسیار دیرتر و پیچیده‌تر سراغ‌تان می‌آید. حتی ممکن است به دروغ با منابعی دقیق از فصل و حتی صفحه‌ی چندین کتاب مرتبط مواجه شوید. هوش مصنوعی در جعل منبع هم از ذهن و فکر غیرانتقادی چند پله جلوتر است.
خلاصه کنم: نه همیشه اما در بسیاری از موارد هوش مصنوعی همان منابع و همان مواضع میان‌مایه قبلی موجود در وب را صرفا از طریق بازآرایی به شیوه‌هایی نو از طریق یک واسطه مقتدر در اختیارتان قرار می‌دهد و کار تشخیص جنس اصل از بنجل در این شرایط به مراتب دشوار‌تر از قبل است. هوش مصنوعی لزوما منبع دقیقی نیست.
source