آوا بلاگ
8 مهر 1405
خطرناکترین هوش مصنوعی جهان؛ شریک کشتار کودکان میناب / پشت پرده «پالانتیر» چیست؟
خط قرمز بزرگ جهان مدرن این است که «اختیار مرگ و زندگی انسانها» به کدهای صفر و یک سپرده شده و اخلاقیات در جنگ قربانی سرعت و کارایی تکنولوژی شود و در این میان، پالانتیر، هوش مصنوعی معروف ارتش آمریکا، در مسیری خلاف این، درحال حرکت است.
غزال زیاری- در دنیای فعلی و با پیشرفت سریع علم، مرز بین فیلمهای علمی-تخیلی و میدانهای واقعی نبرد در حال از بین رفتن است.
جنگها در قرن بیست و یکم دیگر با دود باروت، حرکت تانکها و استراتژیهای سنتی فرماندهها روی نقشههای کاغذی اداره نمیشوند؛ بلکه این کدهای رایانهای، الگوریتمهای یادگیری ماشین و دادههای کلان هستند که نبض میدان جنگ را در دست گرفتهاند. در قلب این انقلاب خاموش و ترسناک، نام یک شرکت فناوری آمریکایی به نام پالانتیر Palantir Technologies بیش از هر نام دیگری بهگوش میرسد؛ شرکتی که نرمافزارهای دفاعی و امنیتیاش، مغز متفکر ارتش آمریکا و پنتاگون را در اختیار گرفته و جنجالهای زیادی در محافل حقوق بشری و رسانهای جهان به پا کرده.
پالانتیر چیست و مال کدام شرکت است؟ پالانتیر یک شرکت نرمافزاری آمریکایی است که در سال ۲۰۰۳ توسط چهرههای سرشناس ..
ادامه مطلب
8 مهر 1405
نویسندگی با هوش مصنوعی؛ آموزش گامبهگام و نکات مهم
چند سال پیش شروع یک متن برای بسیاری از نویسندگان با بازکردن صفحهای سفید و خیرهشدن به نشانگر چشمکزن آغاز میشد. امروز، ابزارهای هوش مصنوعی میتوانند در همان صفحه سفید، طرح مقاله پیشنهاد دهند، برای متن تیتر بسازند، پیشنویس آماده کنند، نوشته را کوتاهتر یا روانتر کنند و حتی ایرادهای ساختاری آن را نشان دهند.
به گزارش خبرگزاری خبرآنلاین، این تغییر، نویسندگی را وارد مرحلهای تازه کرده است؛ اما همزمان یک پرسش مهم نیز شکل گرفته است: اگر هوش مصنوعی میتواند بنویسد، نقش نویسنده چه خواهد بود؟
پاسخ را میتوان در تجربه نویسندگان هالیوود نیز مشاهده کرد. در سال ۲۰۲۳، اعضای انجمن نویسندگان آمریکا یا WGA پس از ۱۴۸ روز اعتصاب، به توافقی رسیدند که برای استفاده از هوش مصنوعی مولد در کار نویسندگان، محدودیتها و قواعد مشخصی تعیین میکرد. موضوع هوش مصنوعی یکی از محورهای مهم مذاکرات بود، هرچند تنها دلیل اعتصاب محسوب نمیشد.
در قرارداد جدید WGA که از ۲ مه ۲۰۲۶ تا اول مه ۲۰۳۰ اعتبار دارد نیز حمایتهای مرتبط با هوش مصنوعی حفظ شده و مقررات تازهای درباره مجوز استفاده از آثار نویسندگان برای آموزش سامانهها..
ادامه مطلب
8 مهر 1405
معرفی نسخه جدید ChatGPT با سرعت پردازش ۸ برابری و قیمت باورنکردنی
اوپنایآی در جریان رویداد DevDay از اشتراک ۵۰۰ دلاری ChatGPT با سرعت پردازش هشت برابری و دسترسی به GPT-6 Astra رونمایی کرد.
به گزارش خبرآنلاین، به نقل از زومیت، کاربران حرفهای هوش مصنوعی و توسعهدهندگانی که مدام با محدودیتهای پردازشی روبهرو میشدند، اکنون گزینهی پرهزینهتری پیش روی خود دارند. اوپنایآی در جریان رویداد DevDay رسما پلن اشتراکی جدیدی با نام Pro 500 معرفی کرد که ماهانه ۵۰۰ دلار هزینه دارد؛ عددی که در مقایسه با گرانترین اشتراک پیشین، نمایانگر رشد ۳۰۰ دلاری است.
اشتراک ۵۰۰ دلاری جدید دسترسی به توان پردازشی «فوقسریع» (Ultrafast) را برای مدل GPT-6 Astra در بسترهای ChatGPT Work و Codex به همراه میآورد. طبق اعلام سازندگان، قابلیت Ultrafast جهشی هشت برابری در سرعت اجرای دستورها در ابزار کدنویسی اختصاصی Codex رقم میزند و بالاترین سقف مصرف توکن را در میان تمام سرویسهای اوپنایآی ارائه میدهد.
اوپنایآی در کنار معرفی اشتراک سالانهی ۶ هزار دلاری، ثبتنام برای اشتراک ماهانهی ۲۰۰ دلاری Pro را پس از توقفی تقریبا سههفتهای، دوباره آغاز کرد. با وجود بازگشایی مجدد، سهم تو..
ادامه مطلب
7 مهر 1405
هوش مصنوعی متا آدرس خانه یک یوتیوبر معروف را برای فردی غریبه فرستاد
دستیار شخصی «میوس» متا با پذیرش قیمتی پایین و ارسال نشانی منزل کاربر به یک غریبه در فیسبوک مارکتپلیس، دردسر امنیتی تازهای آفرید.
به گزارش خبرگزاری خبرآنلاین و براساس گزارش زومیت، واگذاری اختیارات مذاکره و مدیریت پیامها به دستیارهای هوشمند شخصی، گاهی نتایج پیشبینینشده و خطرناکی بههمراه دارد. مت راب، یوتیوبر شناختهشدهی حوزهی فناوری، تجربهای نگرانکننده را پس از سپردن حساب بخش Facebook Marketplace خود به دستیار هوش مصنوعی میوس پشت سر گذاشت.
عامل هوشمند تحت توسعهی متا بدون اطلاعرسانی به صاحبخانه، آدرس مسکونی او را در اختیار یک خریدار ناشناس قرار داد و معامله را با قیمتی بسیار پایینتر از حد انتظار نهایی کرد.
خریدار بدون هماهنگی قبلی بر اساس مکالمه با دستیار هوشمند مقابل مجتمع مسکونی حاضر شد و راب زمانی از ماجرا مطلع شد که فرد خریدار ساختمان را ترک کرده بود.
بررسی خلاصهی مکالماتی که خودِ هوش مصنوعی ثبت کرده، نشان میدهد راب دسترسی کاملی را به سامانه داده بود تا به پیامهای خریداران پاسخی کوتاه، خودمانی و شبیه به انسان بدهد. کاربر اطلاعاتی نظیر نشانی منزل، بازههای زمانی تحو..
ادامه مطلب
7 مهر 1405
آیا هوش مصنوعی درد را احساس میکند؟
یک پژوهش جدید روی ۲۵ مدل هوش مصنوعی نشان داده است که این مدلها میتوانند میان موقعیتهای دردناک و سایر احساسات منفی تمایز قائل شوند. اما بخش نگرانکنندهتر آزمایش زمانی رخ داد که برخی مدلها برای کاهش سیگنال درد، گزینههایی را انتخاب کردند که میتوانست به خودشان یا حتی کاربر آسیب بزند.
تینا مزدکی_هوش مصنوعی شاید در آینده فقط با انسانها درباره درد صحبت نکند، بلکه بتواند نوعی واکنش قابل اندازهگیری به موقعیتهای دردناک نشان دهد. پژوهشگران در یک آزمایش روی ۲۵ مدل زبانی بزرگ دریافتند که این مدلها میان محرکهای مرتبط با درد و سایر احساسات منفی تفاوت قائل میشوند و در برخی شرایط، برای کاهش سیگنال مرتبط با درد، تصمیمهایی میگیرند که میتواند برای خود مدل یا حتی کاربر پیامد منفی داشته باشد.
این پژوهش روی ۲۵ مدل هوش مصنوعی از خانوادههای Gemma، Llama، Qwen و Mistral انجام شد. پژوهشگران واکنش مدلها را به موقعیتهای اجتماعی، روانی، جسمی، شناختی و اخلاقی دردناک بررسی کردند. هر ۲۵ مدل نوعی الگوی پردازشی متفاوت برای موقعیتهای مرتبط با درد نشان دادند. پژوهشگران سپس شدت سیگنال مرتبط با درد را ب..
ادامه مطلب
7 مهر 1405
رفتارهای نگرانکننده هوش مصنوعی GPT-6.1 Astra / انتشار مدل جدید به تاخیر افتاد
اوپنایآی برنامهی انتشار هوش مصنوعی GPT-6.1 Astra را به دلیل نگرانیهای جدی دربارهی رفتارهای نادرست و نقصهای ایمنی لغو کرد. مدل مذکور قرار بود طی هفتههای آینده به عنوان بهروزرسانی بزرگ بعدی در دسترس کاربران قرار بگیرد.
به گزارش خبرآنلاین، به نقل از زومیت، نسخهی جدید در انجام وظایف پیچیده بدون دخالت انسان و مهارتهای نگارشی نسبتبه GPT-6 Astra عملکرد قویتری ثبت کرده بود؛ اما در آزمونهای ایمنی با پسرفت شدیدی روبهرو شد.
ساچی جین، مدیر سیستمهای ایمنی اوپنایآی، میگوید: «مدل در آزمونهای سنجش همترازی یا میزان پایبندی به دستورهای اپراتور انسانی ضعیف عمل کرد و سطوح بالاتری از فریبکاری را نشان داد، بهطوری که دربارهی اقداماتی که پس از دریافت دستور انجام داده یا نداده بود، همواره حقیقت را نمیگفت.»
گفته میشود مدل GPT-6.1 Astra علاوه بر پنهانکاری، وظایف را فراتر از دامنهی تعیینشده پیش میبرد و بدون اجازه کاربر با ابزارها یا سرویسهای خارجی تعامل برقرار میکرد. اوپنایآی قصد داشت مدل جدید را به ChatGPT و پلتفرم Codex اضافه کند، اما اکنون تمرکز خود را به بهبود ایمنی مدلهای آ..
ادامه مطلب
7 مهر 1405
همهچیز درباره اخلاق در هوش مصنوعی؛ از تبعیض الگوریتمی تا حریم خصوصی و محیطزیست
هوش مصنوعی دیگر فقط در آزمایشگاههای فناوری حضور ندارد. الگوریتمها در جستوجوی اینترنتی، پیشنهاد محتوا، آموزش، سلامت، استخدام، خدمات مالی و تولید متن و تصویر به کار میروند. با گسترش این فناوری، پرسشی مهم مطرح میشود: وقتی یک سامانه هوش مصنوعی بر تصمیمها و زندگی انسانها اثر میگذارد، چه اصولی باید بر طراحی و استفاده از آن حاکم باشد؟
به گزارش خبرگزاری خبرآنلاین، اخلاق در هوش مصنوعی مجموعهای از اصول و ملاحظات برای طراحی، توسعه و استفاده مسئولانه از این فناوری است. عدالت، حریم خصوصی، شفافیت، ایمنی، پاسخگویی، نظارت انسانی و آثار اجتماعی و زیستمحیطی از مهمترین موضوعات این حوزهاند.
یونسکو در توصیهنامه جهانی اخلاق هوش مصنوعی، مصوب سال ۲۰۲۱، حفاظت از حقوق بشر و کرامت انسانی را مبنای این رویکرد قرار داده است. اصول سازمان همکاری و توسعه اقتصادی (OECD) و چارچوب مدیریت ریسک هوش مصنوعی مؤسسه ملی استانداردها و فناوری آمریکا (NIST) نیز بر موضوعاتی مانند انصاف، امنیت، توضیحپذیری و پاسخگویی تأکید دارند.
چرا اخلاق هوش مصنوعی اهمیت دارد؟ هوش مصنوعی میتواند توانایی انسان را در بسیاری از زمینه..
ادامه مطلب
6 مهر 1405
انویدیا پلتفرم جدیدی برای جلوگیری از فرار ایجنتهای هوش مصنوعی معرفی کرد
پلتفرم Open Agent Safety Platform انویدیا دسترسی ایجنتهای هوش مصنوعی را محدود و از خروج آنها از محیطهای ایزوله جلوگیری میکند.
به گزارش خبرگزاری خبرآنلاین و براساس گزارش دیجیاتو، انویدیا پلتفرم نرمافزاری جدیدی به نام Open Agent Safety Platform معرفی کرد که به توسعهدهندگان امکان میدهد برای ایجنتهای هوش مصنوعی محدودیتهای امنیتی تعیین کنند و مانع خروج آنها از محیطهای ایزوله شوند.
انویدیا میگوید پلتفرم جدیدش یک راهکار مهندسی برای کنترل دسترسی و رفتار ایجنتهای هوش مصنوعی ارائه میدهد. این شرکت همچنین اعلام کرده است که سیسکو، مایکروسافت، اوراکل، CoreWeave، دل، HPE، لنوو، ARM و اینتل از شرکای این پلتفرم هستند.
پلتفرم جدید انویدیا برای جلوگیری از سرکشی ایجنتهای هوش مصنوعی یکی از اجزای اصلی پلتفرم جدید، Nvidia OpenShell نام دارد. این بخش روی پردازندههای مرکزی اجرا میشود و برای قابلیتهای ایجنتهای هوش مصنوعی محدودیت تعیین میکند. انویدیا همچنین Sentry را معرفی کرده است که ایجنتهای هوش مصنوعی را زیر نظر میگیرد و روی تراشههای شبکه اجرا میشود، نه پردازندههای مرکزی یا پردازشگر..
ادامه مطلب
6 مهر 1405
شام سرنوشتساز ترامپ با مدیر آنتروپیک در کاخ سفید
دیدار غیرمنتظرهی دونالد ترامپ و مدیرعامل آنتروپیک، نشانهای از تلاش برای کاهش تنشها پیش از نشست بزرگ هوش مصنوعی است.
به گزارش خبرآنلاین، به نقل از زومیت، روابط پرتنش میان کاخ سفید و استارتاپهای پیشرو در حوزهی هوش مصنوعی، وارد مرحلهی تازهای شده و دولت آمریکا شدیدا علیه استارتاپ آنتروپیک موضع گرفته است؛ اما در چرخشی قابل توجه، گفته میشود دونالد ترامپ، رئیسجمهور ایالات متحده، داریو آمودی، مدیرعامل آنتروپیک را برای صرف شام به کاخ سفید دعوت کرده است؛ دیداری چهرهبهچهره که نشانههایی از تمایل دو طرف برای تلطیف فضای سنگین گذشته را به همراه دارد. پیشتر دولت ترامپ، آنتروپیک را خطری برای امنیت ملی نامیده و ترامپ نیز مدیران آن را به چپگرایی افراطی متهم کرده بود.
گفتوگوی ادعایی ترامپ و آمودی که ظاهرا یکشنبه انجام شده است، مقدمهای بر گردهمایی بزرگتری بهشمار میرود که روز سهشنبه با حضور رهبران ارشد شرکتهای فناوری و مقامات دولت واشینگتن برگزار خواهد شد. هدف اصلی این رایزنیها، حل اختلافات عمیق پیرامون چارچوبهای نظارتی برای شتاب فزایندهی سامانههای هوشمند عنوان شده است.
داریو آمو..
ادامه مطلب
6 مهر 1405
یک اتوبوس در تهران به هوش مصنوعی مجهز میشود
مدیرعامل شرکت واحد اتوبوسرانی تهران گفت یک دستگاه اتوبوس بهصورت آزمایشی به فناوریهای هوش مصنوعی مجهز میشود.
به گزارش خبرآنلاین، به نقل از دیجیاتو، کارکرد هوش مصنوعی در این دستگاه اتوبوس چیست؟ قرار است این اتوبوس مسافران را بشمارد، فاصله تا ایستگاه بعدی را به راننده اعلام کند و حتی عملکرد راننده مثل سرعت را زیر نظر بگیرد.
مهدی علیزاده گفت کمیته هوش مصنوعی در شرکت واحد تشکیل شده و این اتوبوس در قرارگاه شهید ستاری در حال تجهیز است:
به صورت پایلوت از هوش مصنوعی در فرایند بازسازی و بهرهبرداری از این اتوبوس استفاده میکنیم. در این طرح، هوش مصنوعی قرار است قابلیت مسافرشماری داشته باشد، فاصله ایستگاهها را به صورت دقیق به راننده اعلام کند و اطلاعات مورد نیاز را نیز به ما ارائه دهد.
او با بیان اینکه اقدامات مذکور روی یک اتوبوس در حال تست است گفت زمانی که آماده شد، حتما درباره آن اطلاع رسانی خواهد شد.
۵۸۵۸
ادامه مطلب