این هفته، ایالات متحده به قول سام آلتمن، مدیر عامل OpenAI، سناتورها شهادت هشداردهنده‌ای شنیدند که نشان می‌داد هوش مصنوعی کنترل نشده می‌تواند مشاغل را بدزدد، اطلاعات نادرست منتشر کند و به طور کلی «به اشتباه پیش برود». او و چندین قانونگذار توافق کردند که ایالات متحده اکنون ممکن است به یک آژانس فدرال جدید برای نظارت بر توسعه فناوری نیاز داشته باشد. اما در این جلسه همچنین توافق شد که هیچ‌کس نمی‌خواهد فناوری‌ای را که به طور بالقوه می‌تواند بهره‌وری را افزایش دهد و به ایالات متحده در یک انقلاب فناوری جدید پیشتازی کند، زانو بزند.
سناتورهای نگران ممکن است به گفتگو با میسی کامینگز، خلبان سابق جنگنده و استاد مهندسی و رباتیک در دانشگاه جورج میسون فکر کنند. او استفاده از هوش مصنوعی و اتوماسیون را در سیستم‌های حیاتی ایمنی از جمله خودروها و هواپیماها مطالعه می‌کند و اوایل سال جاری پس از دوره‌ای در اداره ملی ایمنی ترافیک بزرگراه‌ها که بر فناوری‌های خودرو، از جمله خلبان خودکار تسلا و خودروهای خودران نظارت می‌کند، به دانشگاه بازگشت. دیدگاه کامینگز ممکن است به سیاستمداران و سیاست‌گذارانی کمک کند که می‌خواهند وعده‌های الگوریتم‌های جدید بسیار پرطرفدار را با خطرات پیش رو ارزیابی کنند.
کامینگز این هفته به من گفت که او NHTSA را با احساس نگرانی عمیق در مورد سیستم‌های خودمختاری که توسط بسیاری از سازندگان خودرو به کار می‌رود، ترک کرد. کامینگز می‌گوید: «ما از نظر قابلیت‌های این خودروها با مشکل جدی مواجه هستیم. “آنها حتی به توانایی آنقدر که مردم فکر می کنند نزدیک نیستند.”
شباهت با ChatGPT و چت ربات های مشابه که هیجان و نگرانی در مورد قدرت هوش مصنوعی را برمی انگیزد، شگفت زده شدم. ویژگی‌های رانندگی خودکار برای مدت طولانی‌تری وجود داشته‌اند، اما مانند مدل‌های زبان بزرگ، بر الگوریتم‌های یادگیری ماشینی تکیه می‌کنند که ذاتاً غیرقابل پیش‌بینی هستند، بررسی آنها سخت است و نیاز به تفکر مهندسی متفاوتی نسبت به گذشته دارند.
همچنین مانند ChatGPT، اتوپایلوت تسلا و سایر پروژه‌های رانندگی خودران با حجم‌های بی‌معنی تبلیغات بالا رفته‌اند. رویاهای سرسخت انقلاب حمل و نقل، خودروسازان، استارت آپ ها و سرمایه گذاران را بر آن داشت تا مبالغ هنگفتی را برای توسعه و به کارگیری فناوری سرمایه گذاری کنند که هنوز مشکلات حل نشده زیادی دارد. در اواسط دهه 2010 یک محیط نظارتی مجاز در مورد خودروهای خودران وجود داشت، با مقامات دولتی که از ترمز کردن بر روی فناوری که وعده داده بود میلیاردها دلار برای مشاغل ایالات متحده ارزش داشته باشد، بیزار بودند.
پس از میلیاردها دلار هزینه برای این فناوری، خودروهای خودران همچنان درگیر مشکلات هستند و برخی از شرکت‌های خودروسازی پروژه‌های بزرگ خودمختاری را کنار گذاشته‌اند. در همین حال، همانطور که کامینگز می‌گوید، عموم مردم اغلب در مورد توانایی فناوری نیمه‌خودران واقعاً نامشخص هستند.
از یک جهت، خوب است که ببینیم دولت‌ها و قانون‌گذاران به سرعت تنظیم ابزارهای هوش مصنوعی و مدل‌های بزرگ زبان را پیشنهاد می‌کنند. وحشت کنونی بر روی مدل‌های زبان بزرگ و ابزارهایی مانند ChatGPT متمرکز است که در پاسخ به سؤالات و حل مشکلات بسیار خوب هستند، حتی اگر هنوز کاستی‌های قابل توجهی داشته باشند، از جمله جعل با اطمینان حقایق.
در جلسه استماع این هفته سنا، آلتمن از OpenAI، که ChatGPT را در اختیار ما قرار داد، تا آنجا پیش رفت که خواستار یک سیستم مجوز برای کنترل اینکه آیا شرکت‌هایی مانند او مجاز به کار روی هوش مصنوعی پیشرفته هستند یا خیر، شد. آلتمن در این جلسه گفت: «بدترین ترس من این است که ما – حوزه، فناوری، صنعت – آسیب قابل توجهی به جهان وارد کنیم.