هوش مصنوعی مسئول چگونه بازگشت سرمایه قابل اندازه گیری ایجاد می کند


اکنون برای گذرنامه مجازی رایگان خود در اجلاس Low-Code/No-Code Summit در 9 نوامبر ثبت نام کنید. از مدیران سرویس Now، Credit Karma، Stitch Fix، Appian و غیره بشنوید. بیشتر بدانید.


حتی در بحبوحه رکود اقتصادی، پذیرش هوش مصنوعی (AI) در شرکت‌های سراسر جهان همچنان در حال افزایش است. برای مثال، شاخص پذیرش هوش مصنوعی 2022 IBM که اخیراً منتشر شده است، گزارش می دهد که نرخ پذیرش هوش مصنوعی حدود 35٪ است – چهار درصد نسبت به یک سال قبل افزایش یافته است. همچنین مشخص شد که علیرغم افزایش نرخ پذیرش، 74 درصد از شرکت‌ها اعتراف می‌کنند که هیچ اقدامی برای اطمینان از مسئولیت‌پذیری و عاری از تعصب هوش مصنوعی انجام نداده‌اند.

سوال اینجاست که چرا نه؟

ناورینا سینگ، مدیر عامل و بنیانگذار Credo AI مستقر در پالو آلتو، که ادعا می کند اولین پلتفرم مدیریت هوش مصنوعی مسئول در ماه آوریل است، می گوید به این دلیل است که شرکت ها با نحوه گفتگو در مورد موضوع هوش مصنوعی مسئول فرسوده شده اند – و جذب افراد بیشتر با تغییر مکالمه پیرامون آن آغاز می شود. در حالی که تعاریف هوش مصنوعی مسئول متفاوت است، Accenture آن را اینگونه توصیف می کند: “عمل طراحی، توسعه و استقرار هوش مصنوعی با نیت خوب برای توانمندسازی کارمندان و مشاغل، و تأثیر نسبتاً خوبی بر مشتریان و جامعه – به شرکت ها اجازه می دهد اعتماد ایجاد کنند و هوش مصنوعی را با اطمینان مقیاس کنند.”

“من فکر می کنم واقعا در مورد صحبت کردن است [return on investment] ROI هوش مصنوعی مسئول – بازگشت سرمایه RAI،” او گفت. شرکت‌ها بر جنبه‌های مثبت – یا بازگشت سرمایه (ROI) آن تمرکز نمی‌کنند. من فکر می‌کنم که باید گفتگو را از یکی از معیارهای نرم‌افزاری به بازگشت سرمایه واقعی اعتماد و بازگشت سرمایه واقعی هوش مصنوعی مسئول تغییر دهیم.» ثانیا، او افزود، سازمان ها باید مسیری برای رسیدن به آن نشان دهند [the] اجرای هوش مصنوعی مسئول

رویداد

اجلاس کم کد/بدون کد

به مدیران برجسته امروز در اجلاس Low-Code/No-Code به صورت مجازی در 9 نوامبر بپیوندید. همین امروز برای پاس رایگان خود ثبت نام کنید.

اینجا ثبت نام کنید

ایجاد تعادل بین ریسک و اعتماد با حاکمیت

درست همانطور که انسان ها غریزه جنگ یا گریز روانی دارند، سینگ توضیح داد که او متوجه پدیده مشابهی شده است که با استفاده از هوش مصنوعی در سازمان اتفاق می افتد – یکی از تعادل بین ریسک و اعتماد.

او گفت: «وقتی به هوش مصنوعی فکر می‌کنم، این به معنای واقعی کلمه خطر یا اعتماد است، او افزود که در حال حاضر رهبران شرکت تأکید می‌کنند که صرفاً مطابق با انطباق عمل کنند تا در رادار خطر کسی قرار نگیرند.

او گفت: «من فکر می‌کنم این ذهنیت بسیار خطرناکی برای مالکیت شرکت‌ها است، به‌ویژه که آنها یادگیری ماشینی بیشتری را وارد عملیات خود می‌کنند. خواسته من از این جامعه این است که به نوعی روی خود و هوش مصنوعی شرط بندی کنند تا بتوانند درک کنند که اعتماد با طراحی چه چیزی می تواند برای سازمان هایشان به ارمغان بیاورد.

سینگ بخشی از کمیته ملی مشاوره هوش مصنوعی است که به رئیس جمهور بایدن و تیم ملی هوش مصنوعی در مورد مقررات و سیاست های آینده مشاوره می دهد. او Credo AI را در اوایل سال 2020 تأسیس کرد، زمانی که هنگام کار بر روی محصولات هوش مصنوعی برای کوالکام و مایکروسافت متوجه شد که مکالمات پیرامون حاکمیت اغلب خیلی دیر در بازی انجام می شود.

او گفت: «من فکر می‌کنم یک تصور نابجا وجود دارد که اگر شما آن بررسی‌های ریسک انطباق با حاکمیت را در اوایل بازی اضافه کنید، این فقط باعث کاهش سرعت فناوری ما می‌شود. چیزی که ما شروع به دیدن کردیم این بود که در واقع یک مزیت اضافی وجود داشت – مزیتی که نه تنها سیستم‌ها بهتر عمل می‌کردند، بلکه این سیستم‌ها اعتماد را در مقیاس ایجاد می‌کردند.

در زیر کاپوت

Credo AI دو پیشنهاد دارد: یکی یک ابزار نرم افزاری به عنوان سرویس (SaaS) برای ابر است که با AWS و Azure کار می کند. مورد دیگر، در محل برای صنایع تحت نظارت بیشتر است. این پلتفرم در بالای زیرساخت یادگیری ماشین (ML) یک سازمان قرار دارد و دارای سه جزء اصلی است:

  1. تنظیم الزامات: برای تنظیم چارچوبی برای ابزار به عنوان دستورالعمل استفاده می کند. این می‌تواند شامل هر مقرراتی باشد، مانند قانون آینده هوش مصنوعی نیویورک یا ارزش‌ها یا سیاست‌های شرکت.
  2. ارزیابی فنی: در مرحله بعد، ابزار یک ارزیابی فنی در برابر این دستورالعمل ها انجام می دهد. چارچوب ارزیابی منبع باز که Credo Lens نام دارد، مدل‌ها و مجموعه داده‌های شرکت شما را بر اساس دستورالعمل‌ها مورد بازجویی قرار می‌دهد تا ببیند چه چیزی مطابقت دارد و در کجا ممکن است مشکلاتی وجود داشته باشد. پس از آن متخصصان مسئول هوش مصنوعی باید شواهدی علیه این موضوع ارائه کنند.
  3. تولید مصنوعات حاکمیتی: پس از انجام ارزیابی‌های فنی بر روی مدل‌ها، فرآیندها و مجموعه داده‌های شرکت بر اساس قوانین و پارامترهای مشخص شده، Credo AI گزارش‌ها، ممیزی‌ها و اسنادی را برای شفافیت ایجاد می‌کند تا به راحتی بین سهامداران به اشتراک گذاشته شود.

سینگ ادعا می کند که شرکت هایی که از Credo AI به عنوان یک ابزار استفاده کرده اند، موفقیت خود را در پر کردن شکاف بین سهامداران فنی و تجاری گزارش کرده اند، در حالی که خطرات را به روشی ملموس تر و عملی تر تجسم کرده اند.

Credo AI نیز شاهد برخی اقدامات است. در ماه مه، این شرکت 12.8 میلیون دلار در یک دور سری A جمع آوری کرد. بر اساس گزارش Crunchbase، کل بودجه آن تا به امروز در حال حاضر 18.3 میلیون دلار است.

ساخت اکوسیستمی از هوش مصنوعی مسئول

سینگ گفت که یک ابزار نمی‌تواند معضل هوش مصنوعی مسئول در جهان را حل کند، اما تمرکز بر توسعه یک اکوسیستم هوش مصنوعی مسئول ممکن است مکانی برای شروع باشد. این همچنین یک نکته کلیدی در سراسر اجلاس جهانی هوش مصنوعی مسئول آن بود که برای اولین بار در هفته گذشته برگزار شد.

به گفته سینگ، جلسات این رویداد به طور قاطع تاکید کرد که یک اکوسیستم هوش مصنوعی مسئول باید شامل ذینفعان و زوایای متعدد باشد، زیرا به گفته سینگ “بیش از یک محصول در حال بازی” است.

او توضیح داد که برخلاف انقلاب‌های فناوری قبلی، هوش مصنوعی واقعاً متفاوت است.

او گفت: «این بر همه چیزهایی که من و شما دیده‌ایم، و همچنین بر باورها و درک ما تأثیر خواهد گذاشت.» ما نباید کلمه «مسئول» را صدا بزنیم، اما در حال حاضر، در برهه‌ای از زمان هستیم که باید آن را فراخوانی کرد. اما، نه تنها باید به بافتی از طراحی، توسعه و ارتباطات، بلکه همچنین از نحوه خدمت رسانی ما به مصرف کنندگان تبدیل شود.»

ایجاد یک اکوسیستم مسئولیت پذیری پیرامون هوش مصنوعی از ابتدا آسان نیست. اگرچه ابزارها می توانند کمک کنند، کارشناسان می گویند که این کار با رهبری شروع می شود.

راجر بورکهارت، نیکلاس هون و کریس ویگلی، تحلیلگرانی از مک کینزی می‌نویسند: «نقش مدیرعامل برای ارائه مداوم سیستم‌های هوش مصنوعی مسئول حیاتی است و مدیر عامل باید حداقل دانش کاری قوی در مورد توسعه هوش مصنوعی داشته باشد تا اطمینان حاصل شود که او یا سؤالات درستی می پرسد تا از مسائل اخلاقی بالقوه جلوگیری کند.»

سینگ موافق بود و اشاره کرد که همانطور که اقتصاد به سمت یک رکود احتمالی حرکت می کند، رهبری C-suite و آموزش هوش مصنوعی به طور فزاینده ای برای شرکت حیاتی می شود زیرا شرکت ها به دنبال خودکارسازی و کاهش هزینه ها هستند.

سینگ گفت: «باید یک همسویی انگیزه‌ای وجود داشته باشد که C-suite باید بین ذینفعان فنی و تیم‌های مدیریتی و ریسک‌پذیری کاهش یابد تا اطمینان حاصل شود که هوش مصنوعی بیشتر در حال گسترش است.» آنها باید اطمینان حاصل کنند که انگیزه‌هایی برای تیم‌های فنی برای ایجاد مسئولانه و مشوق‌هایی برای تیم‌های انطباق و حاکمیت وجود دارد، نه تنها برای مدیریت ریسک، بلکه برای ایجاد اعتماد – که به هر حال، زیربنای موج بعدی پس از آن خواهد بود. رکود برای این شرکت ها برای رونق.

ماموریت VentureBeat این است که یک میدان شهر دیجیتال برای تصمیم گیرندگان فنی باشد تا دانشی در مورد فناوری سازمانی متحول کننده کسب کنند و معامله کنند. جلسات توجیهی ما را کشف کنید.