چگونه معماری هیبریدی جدید Domino Data Lab پتانسیل Mlops را باز می کند

پلتفرم Enterprise Mlops Domino Data Lab امروز معماری جدید هیبریدی Enterprise Mlops Nexus خود را معرفی کرد. این شرکت که در کنفرانس اخیر Rev3 پیش‌نمایش شد، می‌گوید Nexus به شرکت‌ها اجازه می‌دهد تا به سرعت کارهای علم داده را در میان خوشه‌های محاسباتی مختلف – در مناطق جغرافیایی مختلف، در محل، و حتی در چند ابر – مقیاس‌بندی، کنترل و هماهنگ کنند، بدون اینکه قابلیت اطمینان، امنیت یا قابلیت استفاده را به خطر بیندازند. .

طبق تحقیقات Forrester، دو سوم تصمیم گیرندگان فناوری اطلاعات قبلاً روی پشتیبانی ترکیبی برای توسعه حجم کاری هوش مصنوعی سرمایه گذاری کرده اند. این شرکت در بیانیه‌ای مطبوعاتی توضیح داد که با Nexus، مشتریان می‌توانند حداکثر بهینه‌سازی هزینه را با استفاده از پردازنده‌های گرافیکی داخلی انویدیا و همچنین توانایی انتقال بار کاری به پردازنده‌های گرافیکی مبتنی بر ابر در صورت نیاز به ظرفیت اضافی، به دست آورند. Domino Data Lab در حال حاضر توسعه Nexus را با Nvidia به عنوان شریک راه‌اندازی آغاز کرده است، در حالی که معماری‌های راه‌حل خاصی تایید شده برای فناوری‌های Nvidia برای اواخر امسال برنامه‌ریزی شده‌اند.

شرکت‌ها خواهان انعطاف‌پذیری یادگیری ماشین هستند

به گفته نیک الپرین، مدیر عامل آزمایشگاه داده دومینو، راه اندازی MLops هیبریدی Nexus زمانی رخ می دهد که شرکت ها با این واقعیت دست و پنجه نرم می کنند که داده ها و نیازهای محاسباتی بزرگ آنها ممکن است هم در فضای ابری و هم در فضای داخلی باشد، و همچنین این واقعیت که بسیاری از آنها در حال حرکت هستند. برخی از بارهای کاری ابری به دلایل هزینه و کارایی در محل باز می گردند.

الپرین به VentureBeat گفت: “ظهور و اهمیت ابر یک روند واقعی است، اما واقعیت آنچه شرکت ها با آن سر و کار دارند را بیش از حد ساده می کند.” وقتی حجم کار علم داده و یادگیری ماشین در مکان‌های مختلف باشد، به سادگی «تمام محاسبات در فضای ابری است» نیست. او توضیح داد که شرکت‌ها یک پلتفرم و معماری یکپارچه می‌خواهند که به آنها امکان می‌دهد بارهای کاری یادگیری ماشین را در هر کجا که داده‌ها زندگی می‌کنند اجرا کنند و به آنها انعطاف‌پذیری در مدیریت کارآمد هزینه‌ها را بدهد.

Manuvir Das، معاون محاسبات سازمانی در Nvidia، خاطرنشان می‌کند که اگر شرکت‌ها مایلند حجم کاری خود را خارج از فضای ابری عمومی اجرا کنند و حجم کاری نسبتاً ثابتی داشته باشد، “اقتصاد خارج از ابر عمومی به مراتب بهتر است.” . اکنون، اگر کارهایی را انجام می‌دهید که یک روز کارهای زیادی انجام می‌دهید و روز بعد خیلی کم، پس ابر عالی است زیرا این انعطاف‌پذیری و کشش را دارید.

کمک به پر کردن شکاف بین فناوری اطلاعات و علم داده

Elprin توضیح داد که Mlops هیبریدی همچنین به پر کردن شکاف دیرینه بین تیم های فناوری اطلاعات و علم داده کمک می کند. به عنوان مثال، یکی از اولین چیزهایی که فناوری اطلاعات بیشتر به آن اهمیت می‌دهد، امنیت داده است – اما با تکامل استراتژی‌های داده‌های سازمانی مدرن، داده‌ها در مکان‌های مختلف وجود دارد، اغلب به دلایل امنیتی.

الپرین گفت: «وقتی تیم‌های علم داده می‌خواهند مدل‌هایی بسازند که بر روی داده‌های حساس کار می‌کنند، همیشه با محدودیت‌های IT و InfoSec در مورد اینکه چگونه باید آن داده‌ها را جابجا کنند، مقابله می‌کنند.

او افزود که فناوری اطلاعات به هزینه نیز اهمیت می دهد. او گفت: “آنها همیشه دارند و همیشه خواهند داشت – و حجم کار یادگیری ماشین بسیار گران است.” با توسعه الگوریتم‌های محاسباتی فشرده‌تر، و تیم‌های علم داده مرزهای تأثیرگذاری بیشتر با هزینه‌های محاسباتی بیشتر، ایجاد اصطکاک یا تنش طبیعی بین فناوری اطلاعات و علم داده می‌شود.»

راهی که Nexus به شما کمک می‌کند این است که به سازمان‌های علم داده گزینه‌هایی را از نظر مدیریت هزینه بارهای کاری یادگیری ماشین ارائه می‌دهد. الپرین گفت: “یکی از مشتریان ما چیزی حدود 500 جعبه GPU در محل دارد و آنها 24 تا 7 ساعت کار می کنند، بنابراین هزینه انتقال آن حجم کاری GPU به فضای ابری میلیون ها دلار در سال خواهد بود.” Nexus به فناوری اطلاعات انعطاف‌پذیری برای مدیریت هزینه‌ها می‌دهد و همچنان بهره‌وری را برای دانشمندان داده باز می‌کند.

فناوری اطلاعات به عنوان قهرمان علم داده

داس مثالی از مشتری یک شرکت داروسازی را به اشتراک گذاشت که شروع به استفاده از علم داده در یک تیم کرد. سپس تیم های دیگر شروع کردند. او گفت: “قبل از اینکه آنها بدانند ده سازمان کوچک مختلف در اطراف شرکت آنها وجود داشت که در سیلوها زندگی می کردند و این حجم کار یادگیری ماشینی را برای هدف خاص خود و همچنین توزیع جغرافیایی انجام می دادند.”

تیم‌های علم داده در این مشتری به نقطه‌ای رسیدند که مرزهای بارهای کاری یادگیری ماشینی خود را به حدی پیش می‌برند که در برابر در دسترس بودن منابع در ابری که استفاده می‌کردند، کار می‌کردند. الپرین گفت: «تیم‌های علم داده شکایت داشتند و می‌گفتند، ما به رایانه‌های بیشتری نیاز داریم، در حالی که IT می‌گفت، «ما در حال رسیدن به محدودیت‌های ابری هستیم و ارائه‌دهنده ابر نمی‌تواند پردازنده‌های گرافیکی بیشتری برای ما داشته باشد».

آن زمان بود که Nvidia و Domino Data Lab واقعاً با تیم فناوری اطلاعات درگیر شدند تا اساساً یک مرکز عالی برای همه دانشمندان داده در سراسر شرکت خود فراهم کنند. داس گفت: “این رابطه بین IT و تیم های علم داده را کاملاً تغییر داده است.” “IT می تواند بخش بزرگی از این باشد – آنها می توانند قهرمان باشند.”

باز کردن پتانسیل ترکیبی Mlops

الپرین گفت: “من معتقدم که ما در دوره ای هستیم که در دسترس بودن بیشتر کامپیوترها منجر به پیشرفت های بیشتری می شود، بنابراین Nexus در حال باز کردن مجموعه های بیشتری از منابع محاسباتی است.” قبلاً، او توضیح داد، اگر شما با محاسبات محدود بودید، ممکن است ایده‌هایی وجود داشته باشد که حتی به خود زحمت تست کردنشان را هم ندارید. “این قفل هنر ممکن را باز می کند – انواع ایده هایی که تیم های علم داده می توانند آزمایش و آزمایش کنند.”

علاوه بر این، الپرین گفت که او معتقد است که موفق ترین شرکت ها به علم داده، یادگیری ماشین و هوش مصنوعی به عنوان یک عملکرد جدید که مانند ایجاد یک تیم بازاریابی است، فکر نمی کنند. در واقع، آنها به آن به عنوان یک قابلیت چندکاره ای یکپارچه فکر می کنند، که تمام بخش های مختلف کسب و کار را با هم ترکیب می کند – که برای باز کردن پتانسیل Mlops بسیار مهم است.

داس گفت در نهایت، هر شرکتی به یک استراتژی ترکیبی نیاز دارد، جایی که همه چیز در همه جا اجرا می شود – اما این به ندرت در عمل محقق شده است.

داس گفت: “من فکر می کنم رابط Nexus یک مثال عملی از نحوه اجرای یک حجم کاری ترکیبی است.” «سر و صداهای زیادی در جریان بوده است [hybrid] برای یک دهه، اما نمونه‌های عمل‌گرایانه زیادی از آن وجود ندارد – این راهی است برای اثبات این واقعیت که بله، ترکیبی می‌تواند کار کند.