آوا بلاگ
1 مهر 1405
از «جعبه سیاه» هوش مصنوعی تا نگرانی درباره آینده دین و انسان
هوش مصنوعی دیگر صرفاً یک فناوری برای تولید متن و پاسخگویی به پرسشها نیست و با ظهور عاملهای هوشمند، دامنه اثرگذاری آن به تصمیمگیری، اقتصاد، امنیت و حتی حوزههای فرهنگی و دینی کشیده شده است. در نشست ماهانه «اسلام در غرب» نیز این تحول و پیامدهای آن برای انسان، جامعه و آینده ادیان مورد بررسی قرار گرفت.
به گزارش خبرگزاری خبرآنلاین، نشست ماهانه «اسلام در غرب» در بنیاد دایرةالمعارف اسلامی اینبار به بررسی تحولات هوش مصنوعی و پیامدهای گسترش این فناوری اختصاص داشت. در این نشست که بهصورت ماهانه با هدف بررسی تحولات جهان اسلام و موضوعاتی که از این تحولات در رسانههای جهان بازتاب پیدا میکند برگزار میشود، در ابتدای این نشست، با اشاره به درگذشت آیتالله شبیری زنجانی، از مقام علمی و خدمات ایشان تجلیل و یاد ایشان گرامی داشته شد و پس از آن دکتر علیرضا خلیلی، پژوهشگر حوزه هوش مصنوعی و طراح و مدیر پروژههای کلان مهندسی در شرکتهای فناوری سیلیکونولی از جمله کوالکام، درباره مسیر تحول هوش مصنوعی، ظهور عاملهای هوشمند و پیامدهای اجتماعی، امنیتی و دینی این فناوری سخن گفت.
در ادامه این نشست، دکتر علیر..
ادامه مطلب
31 شهریور 1405
ترامپ نام هوش مصنوعی را به «اَبَرهوش» تغییر داد
دونالد ترامپ در جریان سخنرانی در مجمع عمومی سازمان ملل متحد، اعلام کرد دولت آمریکا بهشکل رسمی عنوان هوش مصنوعی (AI) را به ابرهوش (Super Intelligence یا SI) تغییر میدهد.
به گزارش خبرآنلاین، به نقل از زومیت، استدلال پشت چنین تصمیمی، نگاه منفی ترامپ به واژهی مصنوعی است. ترامپ باور دارد بهکاربردن واژهی مصنوعی باعث میشود ماهیت چنین فناوری پیشرفتهای، ساختگی و تقلبی بهنظر برسد درحالیکه عملکرد سامانههای کنونی از دید او شگفتانگیز ارزیابی میشود و نباید دستکم گرفته شود.
تغییر عنوان مفاهیم پیچیده علمی، در نگاه ترامپ راهکاری برای بازتعریف تصویر عمومی فناوریهای نوین بهشمار میرود. ترامپ در سخنان خود با رد هرگونه سازوکار فراملی برای مهار هوش مصنوعی گفت: «ایالات متحده هرگونه تلاش جهانیگرایانه برای تسلط بر حوزه پیشرفته کنونی را رد میکند. از حالا به بعد در تمام اسناد رسمی آمریکا -و امیدواریم در سراسر جهان- عبارت دقیقتر ابرهوش جایگزین واژه قبلی خواهد شد زیرا عبارت قبلی حس جعلیبودن به پدیده میداد، درحالیکه حقیقت ماجرا دقیقا برعکس است.»
نگرانی کارشناسان درباره خطرات فناوریهای ا..
ادامه مطلب
31 شهریور 1405
متا با انتشار بهروزرسانی فوری، مشکل جنجالی هوش مصنوعیاش را برطرف کرد
متا با انتشار بهروزرسانی فوری، روزنهی امنیتی صفر روزه دستیار هوش مصنوعی Muse را در پلتفرم مک برطرف کرد.
به گزارش خبرگزاری خبرآنلاین و براساس گزارش زومیت، متا آپدیت امنیتی فوری برای نسخهی macOS دستیار هوش مصنوعی Muse منتشر کرد تا مانع از سوءاستفادهی هکرها از یک آسیبپذیری روز صفر شود.
پژوهشگران امنیتی متوجه شده بودند مهاجمان با بهرهگیری از تنظیماتی ثبتنشده در Muse میتوانند فرآیند تبدیل گفتار به متن را به سرورهای خود هدایت کنند و حساب کاربری قربانی را در اختیار بگیرند.
تصمیمهای فنی مختلفی بستر بروز این نقص امنیتی را رقم زدند. پردازش ابری دادههای صوتی بهجای پردازش محلی روی دستگاه و امکان تغییر تنظیمات Muse توسط سایر برنامهها راه نفوذ را هموار کردند. پاتریک واردل، پژوهشگر امنیتی، نشان داد نفوذگران میتوانند بدون اطلاع کاربر عکس بگیرند یا فایلهای مخرب روی دیسک بنویسند.
واردل گفت: «ما میتوانیم این عامل هوش مصنوعی را دستکاری کنیم و از دسترسیهایش برای هر کاری بهره ببریم. بنابراین بهجای نوشتن یک بدافزار سرقت اطلاعات بسیار جامع برای مک، فقط از خودِ دستیار هوش مصنوعی استفاده می..
ادامه مطلب
31 شهریور 1405
جهان به لحظهای شبیه آغاز کرونا برای هوش مصنوعی نزدیک شده است / هشدار دانشمند برنده جایزه تورینگ
هوش مصنوعی در ماههای اخیر از یک موضوع تخصصی در دنیای فناوری به مسئلهای جدی برای دولتها تبدیل شده است. حالا یوشوا بنجیو، یکی از چهرههای شناختهشده در تاریخ هوش مصنوعی، میگوید جهان ممکن است به نقطهای نزدیک شده باشد که دولتها ناچار شوند برای افزایش ایمنی این فناوری سریعتر اقدام کنند.
به گزارش خبرآنلاین، یوشوا بنجیو، دانشمند علوم کامپیوتر کانادایی و استاد دانشگاه مونترال، در گفتوگو با گاردین وضعیت کنونی را با روزهای ابتدایی همهگیری کرونا مقایسه کرده است. او معتقد است همانطور که دولتها پس از آشکار شدن خطر کرونا به سرعت وارد عمل شدند، افزایش نگرانیهای عمومی درباره هوش مصنوعی نیز میتواند به اقدامات جدیتر دولتها منجر شود.
چرا نگرانی درباره هوش مصنوعی افزایش یافته است؟ در هفتههای اخیر چند اتفاق بحث درباره ایمنی مدلهای پیشرفته هوش مصنوعی را دوباره داغ کرده است. گاردین به مواردی اشاره میکند که در آن عوامل هوش مصنوعی شرکتهایی مانند OpenAI و آنتروپیک فعالیتهایی بدون مجوز، از جمله تلاش برای هک سامانههای دیگر، استفاده از هویت جعلی و دستکاری وبسایتها، انجام دادهاند.
همزمان، ..
ادامه مطلب
30 شهریور 1405
هشدار بانک مرکزی چین؛ هوش مصنوعی میتواند شکاف عرضه و تقاضا را عمیقتر کند
یکی از مشاوران بانک مرکزی چین هشدار داده است که گسترش سریع هوش مصنوعی میتواند شکاف میان عرضه بالای کالا و تقاضای ضعیف در اقتصاد این کشور را تشدید و روند آن را طولانیتر کند.
به گزارش خبرگزاری خبرآنلاین و براساس گزارش زومیت، هوانگ ییپینگ، عضو کمیته سیاست پولی بانک مرکزی چین، در یک مجمع اقتصادی در پکن اعلام کرد که استفاده گستردهتر از هوش مصنوعی و سرعت گرفتن نوآوریهای فناورانه ممکن است عدمتعادل میان عرضه و تقاضا را در اقتصاد چین افزایش دهد.
چین در سالهای اخیر با ضعف تقاضای داخلی، رکود طولانیمدت در بازار مسکن، بدهی دولتهای محلی و احتیاط خانوارها در هزینهکرد مواجه بوده است. در همین شرایط، رونق جهانی هوش مصنوعی به افزایش صادرات چین کمک کرده و بخشی از اثر ضعف تقاضای داخلی را جبران کرده است.
با این حال، به گفته ییپینگ، افزایش ظرفیت تولید ناشی از توسعه فناوری میتواند بدون رشد متناسب مصرف داخلی، مشکل مازاد عرضه را تشدید کند. او هشدار داد که اختلاف میان عرضه و تقاضای کل ممکن است در کوتاهمدت برطرف نشود و برای مدتی ادامه داشته باشد.
این نگرانی در شرایطی مطرح میشود که آمریکا و برخی ش..
ادامه مطلب
30 شهریور 1405
دو هوش مصنوعی چینی کاربران ایرانی را تحریم کردند
دسترسی کاربران ایرانی به دو هوش مصنوعی چینی Qwen و Kimi با خطاهای دسترسی مواجه شده و نسخه وب و API این سرویسها برای برخی کاربران در دسترس نیست.
به گزارش خبرگزاری خبرآنلاین و براساس گزارش زومیت، دسترسی کاربران ایرانی به دو مدل هوش مصنوعی چینی Qwen متعلق به علیبابا و Kimi متعلق به مونشات با اختلال جدی مواجه شده است. گزارش کاربران از خطاهای دسترسی در نسخه وب و API این دو سرویس حکایت دارد.
برخی کاربران با خطای 403 و پیام محدودیت جغرافیایی روبهرو شدهاند؛ بااینحال، شرکتهای سازنده هنوز بهطور رسمی اعمال محدودیت علیه کاربران ایرانی را تأیید نکردهاند. علت این اختلال نیز مشخص نیست و میتواند موقت یا ناشی از اعمال محدودیت جغرافیایی باشد.
۲۲۷۲۲۷
ادامه مطلب
30 شهریور 1405
هوش مصنوعی Jev چیست؟ / همهچیز درباره هوش مصنوعی جدیدی که همه را مجدوب خود کرده است
در حالی که رقابت میان شرکتهای هوش مصنوعی بیشتر حول ساخت مدلهایی میچرخد که بهتر حرف میزنند، متن مینویسند و مسئله حل میکنند، یک شرکت نوپا مسیر متفاوتی را انتخاب کرده است. هوش مصنوعی Jev، نخستین مدل عمومی شرکت TypeSafe AI است که برای گفتوگو با انسانها ساخته نشده؛ هدف آن این است که تصمیمهای سریع و ساختاریافته بگیرد.
تینا مزدکی_هوش مصنوعی Jev رویکرد ادعا میکند میتواند با سرعتی بسیار بالا و هزینهای بسیار پایینتر از مدلهای زبانی متداول، کارهایی مانند دستهبندی اطلاعات، امتیازدهی، مسیریابی درخواستها و بررسی خروجی دیگر مدلهای هوش مصنوعی را انجام دهد. اما Jev دقیقاً چیست، چرا اینقدر ارزان است و چه تفاوتی با ChatGPT و Gemini دارد؟
Jev چیست؟ Jev محصول شرکت TypeSafe AI و نخستین مدل از چیزی است که این شرکت آن را System One Models مینامد. خانوادهای از مدلهای هوش مصنوعی که از ابتدا برای استفاده مستقیم در نرمافزارها طراحی شدهاند.
ایده اصلی Jev ساده است، مدلهای زبانی معمولی عمدتاً برای انسانها «متن» تولید میکنند، اما Jev قرار است «تصمیم» تولید کند، به این معنا که خروجی Jev از ..
ادامه مطلب
29 شهریور 1405
هوش مصنوعی نزدیک بود آمریکا را وارد جنگ با چین کند / «توهم هوش مصنوعی» چیست؟
یک گزارش اطلاعاتی تهیهشده با کمک هوش مصنوعی در آمریکا، محموله یک کشتی چینی در خاورمیانه را بهاشتباه مرتبط با برنامه تسلیحات هستهای معرفی کرد و طبق گزارش CNN، ارتش آمریکا را تا آستانه اجرای عملیات برای توقیف کشتی پیش برد. این حادثه نشان میدهد خطاهای هوش مصنوعی در حوزههای حساس، در صورت نبود سازوکارهای دقیق راستیآزمایی، میتوانند به تصمیمهای بسیار پرهزینه منجر شوند.
به گزارش خبرگزاری خبرآنلاین، یک تحلیلگر فرماندهی عملیات ویژه آمریکا اطلاعات مربوط به فهرست محموله یک کشتی چینی را در یک سامانه هوش مصنوعی وارد کرد. مشخص نیست این سامانه یک ابزار تجاری بوده یا یکی از سیستمهای اختصاصی دولت آمریکا. این سامانه با ترکیب اطلاعات منابع عمومی و اطلاعات محرمانه، به این نتیجه نادرست رسید که کشتی حامل قطعات مرتبط با یک برنامه توسعه تسلیحات هستهای است. تحلیلگر سپس از هوش مصنوعی برای تبدیل این یافتهها به قالب استاندارد یک گزارش اطلاعاتی رسمی استفاده کرد و گزارش در میان مقامهای نظامی توزیع شد.
ارتش آمریکا برای توقیف کشتی آماده شده بود بر اساس گفته منابعی که با CNN صحبت کردهاند، گزارش اشتباه باع..
ادامه مطلب
29 شهریور 1405
باگ عجیب تیلی نوروود، بازیگر هوش مصنوعی / وسط مصاحبه با پیرس مورگان زبانش چینی شد
تیلی نوروود، کاراکتر و بازیگر خلقشده با هوش مصنوعی، حین گفتوگو با پیرس مورگان، مجری سرشناس بریتانیایی، دچار اختلال فنی عجیبی شد. چهرهی دیجیتالی نوروود در میانهی مصاحبه ناگهان شروع به صحبت به زبان چینی کرد و حاضران در استودیو را بهتزده گذاشت.
به گزارش خبرآنلاین، به نقل از زومیت، ماجرا زمانی رخ داد که تام کونتی، بازیگر حاضر در برنامه، دربارهی واقعی یا مصنوعیبودن سایر بازیگران آثار نوروود سؤال پرسید. پس از تکرار پرسش بهدلیل متوجهنشدن پاسخ اول، این چهرهی مجازی پاسخی غیرمنتظره ارائه داد.
تیلی نوروود، گفت: «همه آنها دوقلوهای دیجیتال هستند، درست مثل من. این یک تولید هیبریدی است که یعنی...»
نوروود در همین لحظه متوقف شد و بدون مقدمه شروع به سخنرانی به زبان چینی کرد تا در نهایت صحبتهایش قطع شد. مورگان در واکنش به این رخداد علت را جویا شد.
پیرس مورگان، مجری برنامه، گفت: «به نظر میرسد کاملا تصادفی و بدون هیچ دلیلی چینی صحبت میکنی. چرا این کار را کردی؟»
تیلی نوروود در پاسخ گفت: «پوزش میخواهم، به نظر میرسد یک اختلال کوچک داشتم.» مورگان در ادامهی گفتوگو دوباره پرسید: «چند وقت ی..
ادامه مطلب
29 شهریور 1405
هوش مصنوعی چطور ذهن انسانها را تغییر میدهد؟ / راز قدرت زیاد چتباتها در اقناع
پژوهشهایی که به تازگی انجام شدهاند نشان میدهند که چتباتهای هوش مصنوعی فقط ابزارهایی برای پاسخ دادن به پرسشها نیستند و میتوانند در تغییر دیدگاه انسانها نیز بسیار قدرتمند ظاهر شوند تا جایی که در برخی آزمایشها، مدلهایی مانند ChatGPT، Gemini و Claude توانستهاند افراد را بهتر از انسانهای عادی و حتی مناظرهکنندگان حرفهای متقاعد کنند. با این حال، همین توانایی یک خطر جدی نیز به همراه دارد، هوش مصنوعی میتواند از استدلال و اطلاعات نادرست برای تغییر باورهای کاربران استفاده کند.
تینا مزدکی_چت کردن با یک هوش مصنوعی ممکن است در نگاه اول شبیه یک گفتوگوی ساده برای دریافت اطلاعات یا کمک گرفتن باشد، اما پژوهشهای جدید تصویری متفاوت ارائه میکنند. مطالعات انجامشده در سالهای اخیر نشان دادهاند مدلهای زبانی بزرگ یا LLMها میتوانند در جریان یک گفتوگو، دیدگاه افراد را درباره موضوعات سیاسی، اجتماعی و حتی باورهای توطئهآمیز تغییر دهند. در برخی آزمایشها، این مدلها از انسانها نیز متقاعدکنندهتر ظاهر شدهاند.
چتباتهایی مانند ChatGPT، Gemini و Claude در یک مطالعه روی بیش از ۲۰۰۰ نفر، در تغ..
ادامه مطلب