روایتی در فناوری وجود دارد که متمرکزسازی را فرض میگیرد: دادهها به رایانش ابری منتقل میشوند، محاسبات در آنجا انجام میشود، نتایج برمیگردند. برای شرکتهای زیرساخت رایانش ابری، این روایت راحت است. برای شرکتهایی که واقعاً سیستمهای هوش مصنوعی میسازند که باید در محیطهای واقعی بهطور قابل اعتماد، سریع و امن کار کنند، این روایت بهطور فزایندهای محدودکننده است.
محاسبات لبهای - انتقال قابلیت محاسباتی به نزدیکتر به جایی که دادهها تولید میشوند و جایی که تصمیمات باید گرفته شوند - جدید نیست. آنچه جدید است فوریت آن است. ترکیب الزامات هوش مصنوعی در زمان واقعی، مقررات حریم خصوصی، محدودیتهای پهنای باند شبکه و پیچیدگی در حال ظهور IoT و سیستمهای خودمختار، محاسبات لبهای را نه یک انتخاب معماری تخصصی بلکه یک الزام اصلی برای کل دستههای برنامه کاربردی میکند.

من این تغییر را از طریق NexaTech Ventures از نزدیک دنبال کردهام زیرا یکی از مهمترین انتقالات معماری در زیرساخت فناوری از زمان انتقال به رایانش ابری را نشان میدهد.
جایی که معماری ابری از کار میافتد
رایانش ابری بر اساس فرضی ساخته شد که برای دو دهه اول اینترنت درست از آب درآمد: ارسال دادهها به منابع محاسباتی مرکزی ارزانتر از توزیع محاسبات در سراسر شبکه است. برای اکثر برنامههای کاربردی وب - جستجو، رسانههای اجتماعی، تجارت الکترونیک - این همچنان صادق است. اما برای مجموعهای در حال گسترش از برنامههای کاربردی، این فرض در حال فروپاشی است.
خودروهای خودمختار را در نظر بگیرید. یک خودروی خودران تصمیمات حیاتی ایمنی را در میلیثانیه بر اساس دادههای سنسور میگیرد. ارسال دادههای خام سنسور به یک سرویس ابری دور، انتظار برای پاسخ و دریافت تصمیم برگشتی نه تنها ناکارآمد است؛ بلکه اساساً غیرقابل اجرا است. تأخیر غیرقابل قبول است و الزامات قابلیت اطمینان قابل برآورده شدن نیست. محاسبات باید روی خود خودرو، در زمان واقعی، با استفاده از پردازش محلی انجام شود.
یا برنامههای کاربردی تنظیمشده با حریم خصوصی در خدمات بهداشتی یا مالی را در نظر بگیرید. GDPR و مقررات مشابه بهطور فزایندهای نیاز دارند که دادههای شخصی حساس در حوزههای قضایی خاص و تحت کنترلهای امنیتی خاص پردازش شوند. انتقال جریانی دادههای پزشکی یا جزئیات تراکنشهای مالی به یک سرویس ابری در کشور دیگر، حتی برای تحلیل مشروع، پیچیدگیهای انطباق ایجاد میکند که پردازش متمرکز را از نظر قانونی و عملیاتی پرخطر میسازد.
یا تولید در کف کارخانه را در نظر بگیرید. یک تسهیلات تولیدی که ترابایتها داده سنسور از تجهیزات تولید تولید میکند، نمیتواند بهطور واقعبینانه همه آن را برای تحلیل به یک سرویس ابری منتقل کند. هزینه پهنای باند ممنوع است، تأخیر برای تنظیمات فرآیند در زمان واقعی غیرقابل قبول است و خطر انعطافپذیری عملیاتی بسیار زیاد است. محاسبات باید بهصورت محلی انجام شود.
اینها موارد لبهای نیستند. اینها دستههای اصلی برنامههای کاربردی در حال ظهور هستند. و معماری رایانش ابری، طراحیشده، برای همه آنها ضعیف است.
تغییر فنی مورد نیاز
هوش مصنوعی لبهای نیاز به معماری فنی متفاوتی نسبت به هوش مصنوعی مبتنی بر ابر دارد. مدلهای یادگیری ماشین باید کوچکتر، کارآمدتر و بهینهشده برای دستگاههای محدود به منابع باشند. خطوط لوله استنتاج باید در برابر اتصال شبکه متناوب مقاوم باشند. مدل امنیتی باید برای سیستمهای توزیعشده به جای مراکز داده متمرکز کار کند. مکانیسمهای بهروزرسانی و نسخهبندی باید تغییرات را بهطور کارآمد و امن به هزاران یا میلیونها دستگاه لبهای منتقل کنند.
اینها مشکلات سختی هستند و به رویکردهای متفاوتی نسبت به توسعه هوش مصنوعی ابری نیاز دارند. شرکتهایی که آنها را حل میکنند شرکتهای رایانش ابری نیستند؛ آنها شرکتهای جدیدی هستند که زیرساخت هوش مصنوعی بهینهشده برای لبه میسازند.
چندین روند فنی در حال همگرایی برای امکانپذیر کردن این انتقال هستند. تکنیکهای فشردهسازی و کوانتیزاسیون مدل بهسرعت در حال بهبود هستند و اجازه میدهند مدلهای پیچیده هوش مصنوعی روی دستگاههای لبهای با منابع محاسباتی کسری اجرا شوند. سختافزار تخصصی - TPU، NPU و سایر شتابدهندههای هوش مصنوعی - در دستگاههای لبهای در دسترس میشود و قابلیت محاسباتی لازم را فراهم میکند. استانداردهای باز برای استقرار لبهای در حال ظهور هستند و قفل شدن به پلتفرمهای اختصاصی را میشکنند.
در NexaTech Ventures، ما از شرکتها در سه دسته در زیرساخت هوش مصنوعی لبهای حمایت میکنیم. اول، پلتفرمهای بهینهسازی و استقرار مدل که مدلهای بزرگ هوش مصنوعی را میگیرند و آنها را برای اجرای لبهای فشرده میکنند. دوم، موتورهای استنتاج لبهای بهینهشده برای اجرای توزیعشده با تأخیر کم. سوم، سیستمهای هماهنگی لبهای که استقرار، بهروزرسانیها و نظارت بر بارهای کاری هوش مصنوعی در سراسر زیرساخت لبهای توزیعشده را مدیریت میکنند.
جایگاه اروپا
مزیت زیرساختی اروپا در محاسبات لبهای ظریف اما واقعی است. این قاره بهشدت در زیرساخت مخابراتی و استقرار 5G سرمایهگذاری کرده است که ظرفیت شبکه و اتصال با تأخیر کم لازم برای محاسبات لبهای را فراهم میکند. مقررات حفاظت از دادههای اروپایی، بهجای اینکه معلولیت باشد، تقاضا برای راهحلهای محاسبات لبهای را که دادههای حساس را محلی نگه میدارند، هدایت میکند.
مهمتر از آن، بخشهای تولیدی، خودروسازی و صنعتی اروپا تقاضای واقعی برای هوش مصنوعی لبهای را هدایت میکنند. شرکتهای خودروسازی آلمانی به هوش مصنوعی لبهای برای خودروهای خودمختار نیاز دارند. تولیدکنندگان ایتالیایی به محاسبات لبهای برای تولید دقیق نیاز دارند. کشاورزی هلند به هوش مصنوعی لبهای برای سیستمهای کشاورزی دقیق نیاز دارد. این یک چرخه مثبت ایجاد میکند که در آن تقاضا سرمایهگذاری در زیرساخت هوش مصنوعی لبهای را هدایت میکند، که استعداد و سرمایه را جذب میکند، که قابلیت فناوری را بهبود میبخشد، که پذیرش بیشتری را هدایت میکند.
روایت محاسبات لبهای آمریکا در حال حاضر تحت سلطه شرکتهای ابری است که تلاش میکنند پلتفرمهای خود را به لبه گسترش دهند. AWS، Google Cloud و Azure همگی خدمات لبهای ارائه میدهند. اما اینها اساساً معماریهای ابرمحور با لبه اضافهشده هستند. معماری تحولآفرین هوش مصنوعی لبهای توسط شرکتهایی ساخته میشود که با این فرض شروع میکنند که محاسبات در لبه اتفاق میافتد و ابر استثناست، نه قاعده.
مورد سرمایهگذاری
محاسبات لبهای و هوش مصنوعی لبهای نشاندهنده یک تغییر ساختاری در نحوه استقرار و اجرای نرمافزار هستند. این یک روند موقت یا یک بازار تخصصی نیست. این یک انتقال معماری اساسی است که توسط الزامات فنی واقعی که رایانش ابری نمیتواند برآورده کند، هدایت میشود.
فرصت سرمایهگذاری در لایههای متعدد قرار دارد. در لایه زیرساخت، شرکتهایی که پلتفرمهای هوش مصنوعی بهینهشده برای لبه و ابزارهای استقرار میسازند، مزیت رقابتی پایدار ایجاد میکنند. در لایه برنامه کاربردی، شرکتهایی که نرمافزار خود را برای اجرای لبهای بازمعماری میکنند - خودروهای خودمختار، سیستمهای صنعتی، دستگاههای بهداشتی - به مزایای عملکرد و قابلیت اطمینان دست مییابند که جابجایی آن دشوار خواهد بود.
در NexaTech Ventures، ما به دنبال شرکتهای هوش مصنوعی لبهای هستیم که هم الزامات فنی و هم چالشهای عملیاتی را درک میکنند. بهترین شرکتها فقط الگوریتمها را بهینه نمیکنند؛ آنها سیستمهای کامل برای استقرار لبهای میسازند، از جمله نظارت، امنیت، مدیریت بهروزرسانی و پشتیبانی عملیاتی.
تغییر از ابر متمرکز به محاسبات لبهای توزیعشده مهمترین انتقال زیرساختی در فناوری از زمان مهاجرت به ابر را نشان میدهد. شرکتهایی که خود را زودتر در این انتقال موقعیتیابی میکنند، کسبوکارهای قابلتوجه و قابل دفاع خواهند ساخت.
اسکات دیلن بنیانگذار NexaTech Ventures است. او درباره زیرساخت فناوری، هوش مصنوعی و سرمایهگذاری فناوری عمیق مینویسد. بیشتر در scottdylan.com بخوانید.


