هوش مصنوعی قابل اعتماد چیست؟ راهکارهای HPE و NVIDIA برای دنیای AI

با گسترش استفاده از هوش مصنوعی در صنایع مختلف، نیاز به هوش مصنوعی قابل اعتماد بیش از هر زمان دیگری احساس می‌شود. تصویب قوانین سخت‌گیرانه‌ای مانند لایحه هوش مصنوعی اتحادیه اروپا (EU AI Act) سازمان‌ها را ملزم کرده است تا استفاده از فناوری AI را با نظارت و دقت بیشتری انجام دهند. در این شرایط، شرکت‌ها باید راهکارهایی را انتخاب کنند که نه‌تنها با قوانین مطابقت داشته باشند، بلکه مزایای رقابتی هوش مصنوعی را نیز برای آن‌ها حفظ کنند.

در این مقاله، فیلیپ سینگر – معمار کسب‌وکار داده و هوش مصنوعی – نشان می‌دهد که چگونه دو شرکت پیشرو، Hewlett Packard Enterprise (HPE) و NVIDIA، سازمان‌ها را در مسیر توسعه و استقرار هوش مصنوعی قابل اعتماد همراهی می‌کنند.

چرا هوش مصنوعی قابل اعتماد اهمیت دارد؟

یک سیستم هوش مصنوعی قابل اعتماد باید بتواند در شرایط متنوع عملکردی باثبات، ایمن و منصفانه داشته باشد. چند اصل کلیدی در این زمینه عبارت‌اند از:

• قابلیت اعتماد به خروجی مدل‌ها: مدل‌ها باید نتایج دقیق و قابل پیش‌بینی ارائه دهند.

• امنیت داده و مدل: افزایش حملات سایبری به زیرساخت‌های AI، اهمیت امنیت را دوچندان کرده است.

• عدالت الگوریتمی: مدل‌های تبعیض‌آمیز می‌توانند عواقب حقوقی و مالی جبران‌ناپذیری به همراه داشته باشند.

• شفافیت و قابلیت توضیح: مدیران، کاربران و نهادهای نظارتی باید قادر باشند تصمیمات سیستم را درک کنند.

• حفظ حریم خصوصی داده: استفاده از داده‌های محرمانه باید با حساسیت بالا و کنترل دقیق همراه باشد.

• قابلیت ردیابی (Traceability): مسیر داده‌ها و فرآیند تصمیم‌سازی AI باید به طور کامل قابل پیگیری باشد.

مجموع این عوامل، شالوده‌ی هوش مصنوعی قابل اعتماد را می‌سازند؛ مفهومی که به سرعت در حال تبدیل شدن به یک الزام قانونی و اخلاقی است.

راهکار HPE: پلتفرم Private Cloud AI

شرکت HPE با ارائه‌ی پلتفرم Private Cloud AI، زیرساختی یکپارچه برای توسعه و استقرار هوش مصنوعی قابل اعتماد فراهم کرده است. این پلتفرم با ترکیب سه رکن اساسی – نیروهای انسانی، فناوری و اقتصاد – امکان ایجاد یک تجربه‌ی ابری واقعی را برای داده‌های سازمانی خصوصی فراهم می‌آورد.

ویژگی‌های کلیدی:

• ترکیب سخت‌افزار و نرم‌افزار در یک اکوسیستم یکپارچه

• تجربه ابری با کنترل سطح سازمانی

• پشتیبانی از کل چرخه عمر هوش مصنوعی: از پردازش داده تا استقرار و مانیتورینگ مدل

• ارکستراسیون کامل جریان‌های کاری به‌صورت end-to-end

• اجرا بر روی زیرساخت‌های بهینه‌شده برای هوش مصنوعی

همکاری با NVIDIA: ابزارهایی برای ساخت AI ایمن و هوشمند

برای تکمیل این راهکار، HPE از مجموعه ابزارهای NVIDIA بهره می‌برد که هر یک نقش خاصی در تقویت قابلیت اطمینان و اثربخشی هوش مصنوعی دارند:

1. NVIDIA NeMo Data Curator

ابزاری برای جمع‌آوری، پاک‌سازی، فیلتر و توکن‌سازی داده‌های آموزشی، به‌ویژه برای مدل‌های زبانی بزرگ (LLM).

2. NVIDIA NIMs

راهکار کانتینری از پیش آماده برای استقرار مدل‌های هوش مصنوعی با پشتیبانی از قابلیت شنود، ردیابی و تفسیر خروجی‌ها، مبتنی بر پلتفرم TRITON.

3. NVIDIA NeMo Guardrails

جعبه‌ابزاری متن‌باز برای تعریف سیاست‌های امنیتی، جلوگیری از انحراف مکالمات و کنترل خروجی‌های LLM، جهت مقابله با محتوای سمی یا نامناسب.

این ابزارها در کنار HPE AI Essentials و محیط توسعه‌ی HPE Machine Learning Development Environment، زیرساختی منعطف و پایدار برای ساخت راه‌حل‌های هدفمند هوش مصنوعی فراهم می‌کنند.

نمونه موردی: ساخت یک ربات چت امن سازمانی

یکی از کاربردهای عملی این اکوسیستم، طراحی و پیاده‌سازی یک ربات چت سازمانی مبتنی بر هوش مصنوعی قابل اعتماد است:

1. داده‌ها توسط NVIDIA NeMo Data Curator پردازش اولیه می‌شوند.

2. داده‌های برداری‌شده در پایگاه داده‌ی خصوصی HPE ذخیره می‌شوند.

3. هنگام طرح پرسش از سوی کاربر، محتوا توسط NeMo Guardrails بررسی می‌شود.

4. پرسش به همراه داده‌های مرتبط به NVIDIA NIM ارسال می‌شود.

5. مدل پاسخ را تولید می‌کند و خروجی نهایی مجدداً توسط Guardrails بازبینی می‌شود.

6. پاسخ نهایی، ایمن و قابل ردیابی، به کاربر نمایش داده می‌شود.

این فرآیند، تمامی جنبه‌های یک هوش مصنوعی قابل اعتماد – از حریم خصوصی گرفته تا امنیت و شفافیت – را در خود دارد.

نتیجه‌گیری

در دنیایی که قوانین نظارتی پیرامون هوش مصنوعی روز‌به‌روز سخت‌گیرانه‌تر می‌شوند، سازمان‌ها نمی‌توانند صرفاً به توسعه‌ی سریع مدل‌ها بسنده کنند. اعتماد، شفافیت و امنیت به اجزای حیاتی هر راهکار AI تبدیل شده‌اند.

با استفاده از راهکارهای ترکیبی HPE و NVIDIA، شرکت‌ها می‌توانند در مسیر تحول دیجیتال مبتنی بر AI قدم بگذارند، بی‌آنکه نگران چالش‌های حقوقی، اخلاقی یا فنی باشند.