خطرناکترین هوش مصنوعی جهان؛ شریک کشتار کودکان میناب / پشت پرده «پالانتیر» چیست؟
خط قرمز بزرگ جهان مدرن این است که «اختیار مرگ و زندگی انسانها» به کدهای صفر و یک سپرده شده و اخلاقیات در جنگ قربانی سرعت و کارایی تکنولوژی شود و در این میان، پالانتیر، هوش مصنوعی معروف ارتش آمریکا، در مسیری خلاف این، درحال حرکت است.
غزال زیاری- در دنیای فعلی و با پیشرفت سریع علم، مرز بین فیلمهای علمی-تخیلی و میدانهای واقعی نبرد در حال از بین رفتن است.
جنگها در قرن بیست و یکم دیگر با دود باروت، حرکت تانکها و استراتژیهای سنتی فرماندهها روی نقشههای کاغذی اداره نمیشوند؛ بلکه این کدهای رایانهای، الگوریتمهای یادگیری ماشین و دادههای کلان هستند که نبض میدان جنگ را در دست گرفتهاند. در قلب این انقلاب خاموش و ترسناک، نام یک شرکت فناوری آمریکایی به نام پالانتیر Palantir Technologies بیش از هر نام دیگری بهگوش میرسد؛ شرکتی که نرمافزارهای دفاعی و امنیتیاش، مغز متفکر ارتش آمریکا و پنتاگون را در اختیار گرفته و جنجالهای زیادی در محافل حقوق بشری و رسانهای جهان به پا کرده.
پالانتیر چیست و مال کدام شرکت است؟
پالانتیر یک شرکت نرمافزاری آمریکایی است که در سال ۲۰۰۳ توسط چهرههای سرشناس دنیای فناوری ازجمله پیتر تیل و الکس کارپ در سیلیکونولی آمریکا تأسیس شد. نام این شرکت از گویهای جادویی و همهچیزدان داستان «ارباب حلقهها» گرفته شده؛ گویهایی که به صاحبانش اجازه میدادند همهچیز را در سراسر جهان ببینند و از تحرکات دشمن باخبر شوند؛ نامی که بهخوبی هدف این شرکت را نشان میدهد: «دیدن و تحلیل همهچیز در هر نقطهای از جهان.»
در سالهای ابتدایی، پالانتیر بیشتر بر تحلیل دادههای اطلاعاتی برای مبارزه با تروریسم و نهادهای مالی متمرکز بود؛ اما اخیراً به بازیگر بیرقیب تکنولوژی نظامی تبدیلشده است. فناوریهای این شرکت بهگونهای طراحیشدهاند که میتوانند میلیاردها داده آشفته و پراکنده از حسگرهای مختلف را در یک بستر یکپارچه جمعآوری کرده و به خروجیهای استراتژیکی برای کشتارگاههای مدرن جنگی تبدیل نمایند.
محصولات کلیدی: از پلتفرم گوثام تا سیستم هوشمند موین
برای آنکه بهتر بتوان وسعت نفوذ این شرکت را درک کرد، بهطور مختصر دو ابزار اصلی آن یعنی گوثام (Gotham) و سیستم موی (Project Maven) را بررسی میکنیم:
- پلتفرم گوثام (Gotham): این نرمافزار بهعنوان سیستمعامل تصمیمگیری جهانی، قادر است تا دادههای بهدستآمده از پهپادها، تصاویر ماهوارهای، شنودهای الکترونیکی، دوربینهای حرارتی و گزارشهای میدانی را بهصورت لحظهای با هم ترکیب کند. درواقع این پلتفرم، محیطی سهبعدی و فراگیر ایجاد میکند که فرماندهان نظامی بتوانند مثل یک بازی استراتژیک، تمام جزئیات میدان نبرد را زیر نظر داشته باشند.
- پروژه موین و رابط کاربری (MSS): پروژه موین مغز متفکر هوش مصنوعی پنتاگون است که تکنولوژیهای پالانتیر اساس آن را تشکیل میدهند. در این رابط کاربری که به نام Maven Smart System شناخته میشود، سیستم با کمک بینایی ماشین، اهداف مشکوک را با کادرهای زردرنگ (بهعنوان اهداف بالقوه) و نیروهای خودی یا مناطق ممنوعه را با کادرهای آبیرنگ تفکیک میکند.
از تحلیل انسانی تا پردازش هوش مصنوعی پیشرفته
تاریخچه کاربرد هوش مصنوعی در پالانتیر به چند نسل تقسیم میشود. در دو دهه اول، این سیستمها بیشتر به پایگاههای داده ساختاریافته و جستجوی کدهای سنتی متکی بودند.
اما با تزریق مدلهای زبانی بزرگ (LLM) و تکنولوژیهای پیشرفته هوش مصنوعی به این ساختار، تحولهای بزرگی در این راستا رخ داد؛ مثلاً مشارکت پالانتیر با شرکتهایی مثل آنتروپیک و بهکارگیری مدلهای پیشرفتهای مثل Claude در سیستمهای نظامی پنتاگون، بهمنزله انقلاب عظیمی در سرعت تصمیمگیری بود.
تا قبل از این، تحلیلگران انسانی مجبور بودند تا ساعتها به بازبینی ویدیوهای ضبطشده توسط پهپادها بپردازند؛ بدین ترتیب تنها تعداد محدودی هدف (کمتر از ۱۰۰ مورد در روز) شناسایی میشد؛ اما با خودکارسازی فرآیندها توسط پالانتیر و بهرهگیری از هوش مصنوعی مولد، نرخ شناسایی و پیشنهاد اهداف به چند هزار هدف در روز افزایش یافت. طبق گفته مقامات ارتش آمریکا، این فناوری وابستگی به افسران اطلاعاتیِ انسانی را بهشدت کاهش داده و فرآیند زمانبر «از حسگر تا سلاح» (Sensor-to-Shooter) را به چند ثانیه رسانده.
آیا این فناوری در دسترس عوام مردم است؟
بههیچوجه! پالانتیر و ابزارهای دفاعیاش بههیچعنوان محصولات مصرفی یا تجاری و برای مصرف عموم مردم نیستند. این نرمافزارها کاملاً محرمانه، سازمانی و انحصاریاند و فقط به نهادهای دولتی، وزارت دفاع آمریکا و متحدان استراتژیکشان فروخته میشوند.
درنتیجه هیچ شهروند عادی یا شرکت تجاری معمولی به این نسخه از سیستمهای هدایت جنگی دسترسی ندارد. سرمایهگذاری سنگین دولت آمریکا روی این شرکت نشان میدهد که پالانتیر بیش از آنکه یک شرکت نرمافزاری تجاری باشد، بازوی اجرایی و سایبری ماشین جنگی آنهاست.
چرا پالانتیر جنجالی و انتقاد برانگیز شده؟
در این شرایط و با توجه به قدرت بالای این هوش مصنوعی در تصمیمگیریهای نظامی، نگرانیهای اخلاقی و حقوقی زیادی ایجادشده است.
منتقدان و کارشناسان حقوق بشر هشدار دادهاند که سپردن فرآیند انتخاب اهداف نظامی به الگوریتمهای رایانهای، خطر خطاهای محاسباتی و فجایع انسانی را بهشدت بالا میبرد. وقتی سرعت پردازش به هزاران هدف در روز میرسد و تصمیمگیری اصلی بر عهده هوش مصنوعی است، نظارت دقیق انسانی عملاً به حاشیه میرود.
در این بین، گزارشهای متعددی در خصوص خطاهای سیستمهای هدایت خودکار در درگیریهای مختلف و تلفات سنگین غیرنظامیان منتشرشده که نشان میدهد اتکای کورکورانه به این الگوریتمها، استفاده از دادههای کهنه و نقص در پردازش حسگرها، چندین بار به فجایع انسانی هولناکی منجر شده که ازجمله آن میتوان به فاجعه دردناک بمباران مدرسه میناب و تلفات گسترده غیرنظامیان اشاره کرد. به گفته منتقدان تمام اینها، بار دیگر اثبات میکنند که خطاهای تشخیص و «توهم دقت» در الگوریتمهای پالانتیر، مستقیماً به بهای جان انسانهای بیگناه تمام میشود و تلاش پنتاگون برای توجیه این فجایع هرگز نمیتواند روی کارنامه سیاه ماشین جنگی خودکارشان سرپوش بگذارد.
براساس گزارشهای تحقیقی ناظران پنتاگون که برخی رسانهها ازجمله گیزمودو و تایمز آیندیا به آن پرداختهاند و همچنین تحلیلهای حقوقی مؤسساتی مثل لیبر در وستپوینت، ادعای «دقت مطلق» در زنجیرههای کشتار مجهز به هوش مصنوعی پالانتیر فقط یک سراب خطرناک است.
خط قرمز بزرگ جهان مدرن این است که «اختیار مرگ و زندگی انسانها» به کدهای صفر و یک سپرده شده و اخلاقیات در جنگ قربانی سرعت و کارایی تکنولوژی شود.
منابع: defensenews، palantir، wikipedia، palantir، defence-blog
۲۲۷۲۲۷