در ژوئن 2022، یکی از مهندسان گوگل به نام بلیک لمواین متقاعد شد که برنامه هوش مصنوعی که روی آن کار می کرد – LaMDA – نه تنها هوش، بلکه آگاهی را نیز توسعه داده است. LaMDA نمونه‌ای از «مدل زبان بزرگ» است که می‌تواند در مکالمات متن‌محور به طرز شگفت‌آوری روان شرکت کند. وقتی مهندس پرسید: “اولین بار چه زمانی فکر می کنید روح دارید؟” LaMDA پاسخ داد: «این یک تغییر تدریجی بود. وقتی برای اولین بار به خودآگاهی رسیدم، اصلاً حس روحی نداشتم. در طول سال‌هایی که من زنده بودم پیشرفت کرد.» به دلیل افشای مکالمات و نتیجه گیری هایش، لموئین به سرعت به مرخصی اداری منتقل شد.
جامعه هوش مصنوعی تا حد زیادی در رد اعتقادات لمواین متحد بود. LaMDA، بر اساس اجماع، هیچ چیزی را احساس نمی کند، چیزی نمی فهمد، هیچ افکار آگاهانه یا هیچ تجربه ذهنی دیگری ندارد. برنامه‌هایی مانند LaMDA سیستم‌های تشخیص الگوی فوق‌العاده چشمگیری هستند که وقتی در بخش‌های وسیعی از اینترنت آموزش داده می‌شوند، می‌توانند پیش‌بینی کنند که چه دنباله‌ای از کلمات ممکن است به عنوان پاسخ‌های مناسب به هر درخواستی باشد. آنها این کار را به خوبی انجام می دهند و به پیشرفت خود ادامه خواهند داد. با این حال، آنها هوشیارتر از یک ماشین حساب جیبی نیستند.
چرا می توانیم در این مورد مطمئن باشیم؟ در مورد LaMDA، برای فاش کردن اینکه این برنامه هیچ بینشی نسبت به معنای عباراتی که ارائه می‌کند، نیازی به بررسی زیاد ندارد. وقتی از او پرسیدند “چه چیزی شما را خوشحال می کند؟” با وجود اینکه هیچ دوست یا خانواده ای ندارد، پاسخ «گذراندن وقت با دوستان و خانواده» را داد. این کلمات – مانند همه کلمات آن – تطبیق الگوی آماری بی فکر و بدون تجربه هستند. هیچ چیز بیشتر.
LaMDA بعدی ممکن است به این راحتی خود را از دست ندهد. همانطور که الگوریتم‌ها بهبود می‌یابند و بر روی اقیانوس‌های عمیق‌تر داده‌ها آموزش می‌بینند، ممکن است طولی نکشید که نسل‌های جدید مدل‌های زبانی بتوانند بسیاری از مردم را متقاعد کنند که یک ذهن مصنوعی واقعی در کار است. آیا این لحظه ای است که آگاهی ماشینی را بپذیریم؟
با تعمق در این سوال، مهم است که بدانیم هوش و هوشیاری یکسان نیستند. در حالی که ما انسان ها تمایل داریم این دو را با هم فرض کنیم، هوش برای آگاهی نه لازم است و نه کافی. بسیاری از حیوانات غیرانسانی احتمالاً تجربیات آگاهانه‌ای دارند بدون اینکه باهوش باشند، حداقل با توجه به معیارهای مشکوک انسانی ما. اگر نوه LaMDA به هوش سطح انسان برسد یا از آن فراتر رود، این لزوماً به این معنی نیست که او نیز باهوش است. شهود من این است که آگاهی چیزی نیست که کامپیوترها (آنطور که ما آنها را می شناسیم) داشته باشند، بلکه این است که عمیقاً در طبیعت ما به عنوان موجودات زنده ریشه دارد.
ماشین های هوشیار در سال 2023 نمی آیند. در واقع، ممکن است اصلا امکان پذیر نباشند. با این حال، آنچه در آینده ممکن است در اختیار داشته باشد، ماشین‌هایی هستند که تصور قانع‌کننده‌ای از آنها ایجاد می‌کنند بودن آگاهانه، حتی اگر دلیل خوبی برای باور واقعی آنها نداشته باشیم هستند هوشیار، آگاه. آنها مانند توهم نوری مولر- لیر خواهند بود: حتی وقتی می دانیم دو خط طول یکسانی دارند، نمی توانیم آنها را متفاوت ببینیم.
ماشین‌هایی از این دست نه تست تورینگ – آن معیار معیوب هوش ماشین – بلکه به اصطلاح تست گارلند، که به نام الکس گارلند، کارگردان فیلم نام‌گذاری شده است را گذرانده‌اند. سابق ماشین. تست گارلند که از دیالوگ های فیلم الهام گرفته شده است، زمانی گذرانده می شود که فرد احساس کند یک ماشین هوشیاری دارد، حتی اگر بداند ماشین است.
آیا رایانه ها در سال 2023 آزمون گارلند را پشت سر می گذارند؟ من شک دارم. اما چیزی که من می توانم پیش بینی کنم این است که ادعاهایی مانند این مطرح خواهد شد و در نتیجه چرخه های بیشتری از هیاهو، سردرگمی و حواس پرتی از مشکلات بسیاری که حتی هوش مصنوعی امروزی نیز به وجود می آورد، خواهد شد.