آنتروپیک مدل هوش مصنوعی جدید Claude را برای استفاده نظامی و اطلاعاتی معرفی کرد

آنتروپیک از مدل هوش مصنوعی جدید Claude Gov رونمایی کرد که به طور ویژه برای استفاده در آژانس‌های دفاعی و اطلاعاتی ایالات متحده طراحی شده است. مدل‌های هوش مصنوعی این محصول دارای محدودیت‌های کنترلی انعطاف‌پذیرتری برای مصارف دولتی هستند و به‌گونه‌ای آموزش دیده‌اند که توانایی بیشتری در تحلیل اطلاعات محرمانه داشته باشند. انتروپیک از اولین شرکت‌هایی بود که اپلیکیشن چت‌بات هوش مصنوعی خود را به صورت رایگان برای اندروید منتشر کرد. 

جزئیات مدل هوش مصنوعی جدید Claude آنتروپیک

این شرکت اعلام کرده که مدل‌هایی که معرفی کرده، در حال حاضر توسط نهادهایی در بالاترین سطوح امنیت ملی ایالات متحده مورد بهره‌برداری قرار می‌گیرند و دسترسی به آن‌ها صرفاً برای آژانس‌هایی ممکن خواهد بود که با داده‌های طبقه‌بندی‌شده سروکار دارند. آنتروپیک مشخص نکرده که این مدل‌ها از چه زمانی به کار گرفته شده‌اند.

طبق آنچه در وبلاگ  آنتروپیک آمده، مدل‌های Claude Gov با هدف پاسخ‌گویی دقیق به نیازهای خاص نهادهای دولتی، مانند ارزیابی تهدیدات و تحلیل اطلاعاتی، توسعه یافته‌اند. اگرچه این شرکت اظهار کرده که این مدل‌ها نیز تحت همان آزمون‌های سخت‌گیرانه‌ای قرار گرفته‌اند که سایر مدل‌های Claude از آن عبور کرده‌اند، اما برای کاربری در حوزه امنیت ملی ویژگی‌های مشخصی دارند. به عنوان نمونه، در مواجهه با اطلاعات محرمانه ورودی، این مدل‌ها در مقایسه با نسخه‌های عمومی، کمتر از تعامل خودداری می‌کنند؛ در حالی که نسخه‌های مصرفی Claude در چنین مواردی آموزش دیده‌اند که هشدار بدهند یا از پاسخ‌دادن پرهیز کنند.

به گفته آنتروپیک، مدل‌های Claude Gov در درک اسناد و تحلیل زمینه‌ای در حوزه‌های دفاعی و اطلاعاتی از عمق بیشتری برخوردار هستند و در تسلط به زبان‌ها و گویش‌هایی که در امنیت ملی اهمیت دارند، مهارت بالاتری دارند.

کاربرد فناوری هوش مصنوعی در سازمان‌های دولتی مدت‌هاست که به دلیل خطرات احتمالی و تأثیرات منفی آن بر اقلیت‌ها و گروه‌های آسیب‌پذیر، مورد توجه و انتقاد قرار گرفته است. در چندین ایالت آمریکا، بازداشت‌های اشتباه پلیس ناشی از بهره‌گیری از فناوری تشخیص چهره گزارش شده و شواهد مستندی از سوگیری در سامانه‌های پیش‌بینی جرم و تبعیض در الگوریتم‌های دولتی ارزیابی کمک‌های رفاهی وجود دارد. همچنین برای سال‌ها، موضوع همکاری شرکت‌های بزرگ فناوری مانند مایکروسافت، گوگل و آمازون با ارتش جنجال‌برانگیز بوده و موجب ایجاد کارزارها و اعتراضات عمومی در قالب جنبش No Tech for Apartheid شده است.

سیاست استفاده آنتروپیک به‌صراحت مقرر می‌کند که هیچ کاربری نباید از محصولات یا خدمات این شرکت برای ایجاد یا تسهیل مبادله سلاح‌ها یا کالاهای غیرقانونی یا به شدت کنترل‌شده، از جمله تولید، طراحی، اصلاح، بازاریابی یا توزیع تسلیحات، مواد منفجره، مواد خطرناک یا دیگر سامانه‌هایی که برای آسیب‌رسانی یا سلب حیات انسان طراحی شده‌اند استفاده کند.

آنتروپیک چند ماه پیش اعلام کرده بود که مجموعه‌ای از استثنائات قراردادی به سیاست استفاده خود افزوده است که با دقت برای استفاده مفید توسط برخی آژانس‌های دولتی خاص تنظیم شده‌اند. برخی محدودیت‌ها، مانند ممنوعیت کارزارهای اطلاعات نادرست، طراحی یا به‌کارگیری سلاح‌ها، ساخت سامانه‌های سانسور و عملیات مخرب سایبری، همچنان پابرجا خواهند ماند. با این حال، آنتروپیک این امکان را دارد که محدودیت‌های استفاده را با توجه به مأموریت و صلاحیت‌های حقوقی هر نهاد دولتی تنظیم کند، در حالی که هدف آن حفظ تعادل میان تسهیل استفاده مثبت از محصولات و کاهش آسیب‌های احتمالی است.

مدل Claude Gov در واقع پاسخی است از سوی آنتروپیک به محصول ChatGPT Gov شرکت OpenAI برای نهادهای دولتی ایالات متحده که در دی ماه معرفی شد. این محصول همچنین بخشی از روند گسترده‌تری است که طی آن غول‌های هوش مصنوعی و استارتاپ‌ها به دنبال گسترش تعاملات خود با نهادهای دولتی، به‌ویژه در فضای نامطمئن قوانین و مقررات، هستند.

زمانی که OpenAI از ChatGPT Gov رونمایی کرد، گفت که در یک سال گذشته بیش از 90 هزار کارمند دولت‌های فدرال، ایالتی و محلی از فناوری آن برای ترجمه اسناد، تهیه خلاصه‌ها، نگارش یادداشت‌های سیاستی، کدنویسی، ساخت اپلیکیشن‌ها و فعالیت‌های دیگر استفاده کرده‌اند. آنتروپیک از ارائه آمار یا نمونه‌های استفاده مشابه خودداری کرده، اما این شرکت عضو برنامه FedStart شرکت Palantir است که یک سرویس SaaS ویژه شرکت‌هایی بوده که می‌خواهند نرم‌افزارهای سازگار با نیازهای دولت فدرال ارائه کنند.

شرکت Scale AI که یکی از تأمین‌کنندگان داده‌های آموزشی برای شرکت‌هایی چون OpenAI، گوگل، مایکروسافت و متا به‌شمار می‌رود، در اسفندماه قراردادی با وزارت دفاع ایالات متحده برای برنامه‌ای بی‌سابقه در زمینه استفاده از عامل‌های هوش مصنوعی در برنامه‌ریزی نظامی امضا کرد. از آن زمان تاکنون، این شرکت کسب‌وکار خود را به دولت‌های دیگر نیز گسترش داده و اخیراً قراردادی پنج‌ساله با کشور قطر برای ارائه ابزارهای خودکارسازی در حوزه‌هایی مانند خدمات عمومی، سلامت، حمل‌ونقل و سایر بخش‌ها به امضا رسانده است.