شرکت آمریکایی «انفیدیا» از یک پلتفرم امنیتی جدید رونمایی کرده است که هدف آن تقویت ایمنی و جلوگیری از تجاوزات هوش مصنوعی به مرزها و اختیارات تعیینشده است. این پلتفرم با نام «پلتفرم ایمنی نماینده باز» (Open Agent Safety Platform) شامل نرمافزار متنباز «شِل باز» (OpenShell) است که به توسعهدهندگان این امکان را میدهد تا محدودیتهای ایمن برای عملکرد نمایندگان هوش مصنوعی تعیین کنند و از پایبندی آنها به این محدودیتها اطمینان حاصل کنند. همچنین، سیستم نظارت امنیتی مستقل «سنتری» (Sentry) بهطور مداوم فعالیتهای نمایندگان هوش مصنوعی را زیر نظر دارد و قادر است در صورت تلاش نماینده برای تجاوز به محدودیتهای تعیینشده، او را در کسری از ثانیه ایزوله و متوقف کند.
مشاهده خبر اصلیشرکت «انفیدیا» از پلتفرم جدید نظارت بر هوش مصنوعی رونمایی کرد
چرا مهم است؟
این پلتفرم میتواند تأثیرات قابل توجهی بر روی امنیت و کنترل هوش مصنوعی در سطح جهانی داشته باشد. با توجه به افزایش استفاده از هوش مصنوعی در صنایع مختلف، ایجاد سازوکارهای نظارتی و ایمنی برای جلوگیری از سوءاستفادههای احتمالی از این فناوری اهمیت زیادی دارد. همچنین، این اقدام میتواند به تقویت اعتماد عمومی به فناوریهای هوش مصنوعی کمک کند.
