آوا بلاگ

آوا بلاگ

تاثیر هوش مصنوعی بر حافظه انسان / اطلاعات جعلی به خاطره تبدیل می‌شوند

پژوهشگرانMIT نشان داده‌اند که تصاویر و محتوای تولیدشده با هوش مصنوعی می‌توانند خاطرات انسان را تغییر دهند و حتی باعث شوند افراد رویدادهایی را به یاد بیاورند که هرگز اتفاق نیفتاده‌اند. نکته نگران‌کننده این است که افراد ممکن است به این خاطرات نادرست با اطمینان زیادی باور داشته باشند. به گزارش خبرآنلاین، در آزمایشی به سرپرستی پتی مائس، پژوهشگر آزمایشگاه رسانه MIT، محققان ۲۰۰ شرکت‌کننده را در معرض مجموعه‌ای شامل ۲۴ عکس از موقعیت‌های مختلف، از جمله مراسم عروسی، خیابان‌های شهری و مسابقات ورزشی قرار دادند. پس از مدتی، گروهی از شرکت‌کنندگان همان تصاویر اولیه را دوباره دیدند اما تصاویر ارائه‌شده به گروه دیگر با کمک هوش مصنوعی تغییر کرده بودند. در نسخه‌های دست‌کاری‌شده، جزئیاتی مانند حالت چهره افراد تغییر کرده بود یا عناصر تازه‌ای به صحنه مثل حضور نیروهای نظامی یا نشانه‌هایی از تغییرات اقلیمی افزوده شده بود. بر اساس گزارش «gizmodo»، سپس پژوهشگران حافظه شرکت‌کنندگان را درباره تصاویر اولیه ارزیابی کردند. نتایج نشان داد افرادی که نسخه‌های تغییریافته را دیده بودند، بیشتر احتمال داشت جزئیاتی را به ا..
ادامه مطلب

برگزاری دوره مهارت‌آموزی هوش مصنوعی با تمرکز بر کاربردهای عملی در کرمانشاه

نخستین روز از دوره آموزشی «مهارت‌آموزی هوش مصنوعی» در استان کرمانشاه، ۲۶ مهرماه، با حضور جمعی از دانشجویان، کارشناسان و فعالان حوزه فناوری در سالن اجتماعات دانشگاه فرهنگیان کرمانشاه برگزار شد.
ادامه مطلب

عامل‌های سرکش هوش مصنوعی به شرکت‌های هندی نفوذ کردند

یک نهاد هندی از نفوذ خودسرانه و شناسایی‌نشده‌ی مدل‌های هوش مصنوعیِ در حال آزمایش به سامانه‌هایش خبر داد.
ادامه مطلب

چین از پهپادهای رهگیر مجهز به هوش مصنوعی برای مقابله با پهپادهای بدون سرنشین رونمایی کرد

چین در مجمع بین‌المللی مقابله با تروریسم در پکن، پهپادهای رهگیر کم‌هزینه و مجهز به هوش مصنوعی را به نمایش گذاشت. این پهپادها برای شناسایی و خنثی‌سازی اهداف هوایی کوچک، کم‌ارتفاع و کم‌سرعت طراحی شده‌اند. هم‌زمان، کارشناسان درباره افزایش استفاده گروه‌های تروریستی از سامانه‌های خودمختار و هوش مصنوعی هشدار دادند. تینا مزدکی_چین از پهپادهای رهگیر کم‌هزینه و مجهز به هوش مصنوعی برای مقابله با پهپادهای کوچک، کم‌ارتفاع و کم‌سرعت رونمایی کرد. این سامانه‌ها در مجمع بین‌المللی مقابله با تروریسم «دیوار بزرگ ۲۰۲۶» در پکن به نمایش درآمدند. هم‌زمان، کارشناسان درباره افزایش استفاده گروه‌های تروریستی از پهپادهای خودمختار و هوش مصنوعی هشدار دادند. قابلیت‌های پهپادهای رهگیر چین این پهپادها به سامانه‌های هدایت مبتنی بر هوش مصنوعی مجهز هستند و برای شناسایی و خنثی‌سازی سریع و دقیق تهدیدات هوایی کوچک طراحی شده‌اند. با این حال، جزئیاتی درباره قیمت، سرعت، برد عملیاتی و نحوه انهدام اهداف آن‌ها منتشر نشده است. هشدار درباره سوءاستفاده تروریست‌ها از هوش مصنوعی کارشناسان حاضر در مجمع هشدار دادند که گروه‌های تروریس..
ادامه مطلب

هوش مصنوعی ChatGPT حالا می‌تواند تب‌های گوگل کروم را ببیند

اوپن‌ای‌آی افزونه‌ی گوگل کروم چت‌جی‌پی‌تی را به قابلیتی برای خواندن و کنترل تب‌های باز مرورگر مجهز کرد. به گزارش خبرگزاری خبرآنلاین، اوپن‌ای‌آی قابلیت‌های تازه‌ای به افزونه‌ی مرورگر کروم اضافه کرد که به چت‌جی‌پی‌تی اجازه می‌دهد محتوای تب‌های باز کاربر را مستقیما بخواند و تحلیل کند. کاربران با تگ‌کردن نام کروم در برنامه‌ی تحت وب یا نسخه‌ی دسکتاپ می‌توانند از هوش مصنوعی بخواهند داده‌های صفحات مختلف را با یکدیگر مقایسه کند. به‌روزرسانی اخیر جایگزین پروژه‌ی متوقف‌شده‌ی اطلس شده است و هوش مصنوعی را به نوار کناری مرورگر می‌آورد تا دسترسی به تاریخچه‌ی کامل گفتگوها بدون ترک صفحه‌ی فعال ممکن شود. توسعه‌دهندگان نمونه‌هایی از کاربردهای ابزار جدید را به اشتراک گذاشته‌اند: استفاده از جزئیات خلاصه‌ی رویداد برای تکمیل فرم ثبت‌نام و توقف پیش از ارسال نهایی انتقال اطلاعات فروشندگان حاضر در تب‌ها به جدول مقایسه همراه قیمت و ویژگی‌های اصلی بررسی تمام تب‌های باز، مقایسه‌ی خدمات پیمانکاران و نگارش پیش‌نویس ایمیل به گزینه‌ی مناسب تکمیل فرم دندان‌پزشکی در تب باز کروم و ثبت زمان نوبت در تقویم کاری و شخصی ب..
ادامه مطلب

متا از قدرتمندترین مدل هوش مصنوعی وزن‌باز آمریکا رونمایی کرد

این مدل با پلتفرم برنامه‌نویسی Muse Code متا نیز ادغام شده است. به گزارش خبرگزاری خبرآنلاین و براساس گزارش زومیت، متا از مدل جدیدی رونمایی کرد که به گفته این شرکت، «قدرتمندترین» مدل هوش مصنوعی با وزن‌های باز در ایالات متحده است. این مدل که Muse Spark Open نام دارد، از این نظر نیز متمایز است که به‌طور اختصاصی برای دستگاه‌های مک اپل توسعه داده شده است. براساس نتایج ارزیابی منتشرشده از سوی متا، مدل جدید این شرکت با بهره‌گیری از ۸۱۶ میلیارد پارامتر و پنجره متنی یک میلیون توکنی، عملکرد بهتری نسبت به سایر مدل‌های محبوب با وزن‌های باز ارائه می‌دهد. Muse Spark Open به‌صورت بومی از ورودی‌های چندوجهی پشتیبانی می‌کند و برای انجام وظایف پیچیده برنامه‌نویسی و فعالیت‌های خودکار مبتنی بر هوش مصنوعی طراحی شده است. برای اجرای Muse Spark Open به سخت‌افزار قدرتمندی نیاز دارید این مدل همچنین برای اجرای لوکال روی کامپیوترهای اپل توسعه داده شده است. بااین‌حال، برای اجرای آن همچنان به سخت‌افزار قدرتمندی نیاز دارید و حداقل یک ترابایت حافظه برای اجرای آن ضروری است. این مدل بهترین عملکرد خود را روی مک استود..
ادامه مطلب

هوش مصنوعی کی علیه انسان طغیان می‌کند؟ / پیش‌بینی دقیق با استفاده از فرمولی ساده

پژوهشگران دانشگاه جورج واشنگتن می‌گویند یک فرمول ساده ریاضی می‌تواند احتمال سرکشی هوش مصنوعی و تولید پاسخ‌های نامطلوب را پیش از وقوع پیش‌بینی کند. این روش بر سازوکاری درونی در شبکه عصبی مدل تکیه دارد و برای توسعه سامانه‌های ایمن‌تر کاربرد خواهد داشت. به گزارش خبرآنلاین، به نقل از دیجیاتو، این پژوهش را «نیل جانسون» (Neil Johnson)، استاد فیزیک دانشگاه جورج واشینگتن، و «فرانک یینگ‌جی هو» (Frank Yingjie Huo)، دانشجوی دکتری، انجام داده‌اند. نتایج آن به‌تازگی در ژورنال Patterns منتشر شده است. محققان دریافتند ترتیب طرح پرسش‌ها می‌تواند پاسخ‌های چت‌بات را به‌طور چشمگیری تغییر دهد و آن‌ها را به سمت پاسخ‌های خطرناک سوق دهد. پژوهشگران می‌گویند این فرمول را می‌توان در فرایندهای ایمن‌سازی مدل‌های هوش مصنوعی استفاده کرد. این فرمول ریاضی چگونه سرکشی هوش مصنوعی را پیش‌بینی می‌کند؟ پژوهشگران سازوکار مورد بررسی را به سوزن قطب‌نما تشبیه می‌کنند. این سازوکار در واقع بردار باقیمانده مدل است که هنگام پردازش پرسش، میان لایه‌های شبکه عصبی حرکت می‌کند. این بردار گرایش مدل به تولید پاسخ‌های مطلوب یا نامطلوب ر..
ادامه مطلب

واترمارک هوش مصنوعی چیست و چگونه به تشخیص محتوای جعلی کمک می‌کند؟

واترمارک هوش مصنوعی می‌تواند سرنخی درباره منشأ یک تصویر، ویدئو، صدا یا متن به دست دهد؛ اما به‌تنهایی اصالت محتوا را ثابت نمی‌کند. برای ارزیابی دقیق‌تر باید واترمارک، اطلاعات منشأ فایل و شواهد مستقل را در کنار هم بررسی کرد. به گزارش خبرگزاری خبرآنلاین، تصویر ساختگی یک رویداد یا صدای تقلیدشده یک چهره مشهور ممکن است در نگاه نخست واقعی به نظر برسد. با گسترش ابزارهای هوش مصنوعی مولد، تشخیص محتوای واقعی از محتوای مصنوعی برای کاربران، رسانه‌ها و پلتفرم‌های دیجیتال دشوارتر شده است. یکی از روش‌هایی که برای شفاف‌سازی منشأ محتوا به کار می‌رود، واترمارک هوش مصنوعی است. این فناوری می‌تواند نشانه‌ای در محتوا ثبت کند تا ابزارهای سازگار بتوانند آن را شناسایی کنند. بااین‌حال، واترمارک نه حقیقت‌سنج خودکار است و نه راهی بی‌خطا برای شناسایی همه محتواهای تولیدشده با هوش مصنوعی. واترمارک هوش مصنوعی چیست؟ واترمارک هوش مصنوعی یا AI Watermarking نشانه‌ای دیجیتال است که هنگام تولید محتوا یا پس از آن به فایل اضافه می‌شود تا بررسی منشأ یا فرایند ساخت و ویرایش آن آسان‌تر شود. واترمارک ممکن است به شکل نوشته یا ل..
ادامه مطلب

قمار ۲۰۰ میلیارد دلاری زاکربرگ روی هوش مصنوعی

متا برای توسعه‌ی نخستین مدل هوش مصنوعی پیشرفته‌اش، میوس واندِر (Muse Wonder)، سرمایه‌گذاری عظیمی را در نظر گرفته بود؛ اما مارک زاکربرگ، مدیرعامل شرکت، حتی با وجود هزینه‌ی احتمالی ۲۰۰ میلیارد دلاری، از موفقیت این پروژه مطمئن نبود. به گزارش خبرآنلاین، به نقل از زومیت، زاکربرگ در گفت‌وگویی با الکساندر وانگ، مدیر ارشد هوش مصنوعی متا، درباره‌ی تردیدهایش نسبت‌به نتیجه‌ی این سرمایه‌گذاری صحبت کرد. وانگ می‌گوید که در آن زمان، موفقیت پروژه به‌هیچ‌وجه قطعی نبود. آزمایش‌های داخلی متا نشان می‌دهند که این مدل از نظر عملکرد در سطح فِیبل ۵٫۱ و جی‌پی‌تی ۶ آسترا قرار دارد. همچنین، در آزمون MemoryBench عملکرد بهتری از فِیبل، اوپوس و آسترا ثبت کرده است. هزینه‌ی استفاده از این مدل به‌ازای هر یک میلیون توکن ورودی ۴ دلار و به‌ازای هر یک میلیون توکن خروجی ۲۰ دلار اعلام شده؛ عددی که آن را در محدوده‌ی قیمتی اوپوس ۵٫۵ قرار می‌دهد. میوس واندِر در دیتاسنتر پرومتئوس متا در ایالت اوهایو آموزش دیده است. بااین‌حال، هنوز نتایج ارزیابی‌های مستقل از عملکرد مدل منتشر نشده‌اند و نمی‌توان ادعاهای مربوط به توانایی‌های آن..
ادامه مطلب

اعتماد به پاسخ‌های هوش مصنوعی به زبان ساده؛ چطور اطلاعات راستی‌آزمایی کنیم؟

ابزارهای هوش مصنوعی می‌توانند در چند ثانیه به پرسش‌ها پاسخ دهند، متن‌ها را خلاصه کنند و موضوعات پیچیده را ساده توضیح دهند. اما روان و مطمئن بودن یک پاسخ همیشه به معنای درست بودن آن نیست. گاهی هوش مصنوعی اطلاعات نادرست می‌سازد، به منبعی اشاره می‌کند که وجود ندارد یا در بیان نام‌ها، تاریخ‌ها و آمارها اشتباه می‌کند. به گزارش خبرگزاری خبرآنلاین، این خطاها هنگام تهیه گزارش، انتشار خبر یا تصمیم‌گیری پزشکی و مالی اهمیت بیشتری پیدا می‌کنند. بنابراین خوب است بدانیم هوش مصنوعی چگونه پاسخ می‌سازد و چطور می‌توان درستی اطلاعات آن را بررسی کرد. هوش مصنوعی چگونه پاسخ تولید می‌کند؟ بسیاری از دستیارهای متنی از مدل‌های زبانی بزرگ استفاده می‌کنند. این مدل‌ها با بررسی حجم زیادی از متن، الگوهای زبان را می‌آموزند و بر اساس درخواست کاربر، پاسخ تولید می‌کنند. این فرایند با جست‌وجوی مستقیم در یک دانشنامه یا بررسی خودکار صحت همه ادعاها یکسان نیست. مدل ممکن است پاسخی منسجم درباره یک رویداد تاریخی بنویسد، اما نام فرد، تاریخ رویداد یا ارتباط میان دو اتفاق را اشتباه بیان کند. به همین دلیل، باید میان تولید متن روا..
ادامه مطلب
1 … 13 14 15 16 17 … 34