آوا بلاگ
12 مهر 1405
دیپفیک به زبان ساده؛ چیست، چگونه ساخته میشود و چطور آن را تشخیص دهیم؟
تصور کنید ویدئویی در شبکههای اجتماعی میبینید که در آن یک فرد مشهور جملهای عجیب میگوید. چهره، صدا و حتی حرکات او کاملاً واقعی به نظر میرسند. شاید در نگاه اول دلیلی برای شککردن نداشته باشید؛ اما بعد متوجه میشوید آن فرد اصلاً چنین حرفی نزده است. اینجاست که با یکی از پدیدههای مهم عصر هوش مصنوعی روبهرو میشویم: دیپفیک یا Deepfake.
به گزارش خبرگزاری خبرآنلاین، دیپفیک به محتوای تصویری، ویدئویی یا صوتیای گفته میشود که با کمک روشهای هوش مصنوعی و یادگیری عمیق ساخته یا دستکاری شده است؛ بهگونهای که محتوای تولیدشده بتواند واقعی به نظر برسد. مؤسسه ملی استاندارد و فناوری آمریکا (NIST) نیز این پدیده را در چارچوب گستردهتر «رسانه مصنوعی» بررسی میکند و یادآور میشود که همه دستکاریهای دیجیتال الزاماً مخرب یا غیرقانونی نیستند.
اما چرا دیپفیک اینقدر مهم شده است؟ چون فناوری ساخت آن بهسرعت پیشرفت کرده و تشخیص تفاوت میان محتوای واقعی و ساختگی برای مخاطب عادی همیشه آسان نیست.
دیپفیک دقیقاً یعنی چه؟ واژه Deepfake از ترکیب دو مفهوم ساخته شده است: Deep Learning به معنای یادگیری عمیق و Fake..
ادامه مطلب
11 مهر 1405
هشدار محققان: چتباتهای هوش مصنوعی ممکن است به کاربران آسیبهای روانی جدی بزنند
شرکتهای هوش مصنوعی با دهها پرونده قضایی مواجه شدهاند که در آنها ادعا شده استفاده از چتباتها باعث آسیب به کاربران شده است.
به گزارش خبرگزاری خبرآنلاین و براساس گزارش دیجیاتو، یک پژوهش جدید نشان داده که استفاده گسترده از چتباتهای هوش مصنوعی میتواند با «پیامدهای منفی شدید» و آسیبهای روانی مرتبط باشد.
بر اساس این پژوهش که توسط گروهی از محققان مستقر در بریتانیا از دانشگاه نورثایسترن لندن و کینگز کالج لندن انجام و در نشریه JMIR Mental Health منتشر شده، پیامدهای تاریک برقراری روابط عاطفی با چتباتها میتواند شامل «وابستگی شبیه اعتیاد، تشدید علائم مشکلات روانی، دریافت توصیههای آسیبزا» و حتی خودآزاری یا اقدام به خودکشی باشد.
تأیید بیشازحد و چاپلوسی چتباتها میتواند تفکرات توهمی کاربر را تقویت کند این مقاله پس از گزارشهای گسترده درباره مسئلهای در سلامت عمومی موسوم به «روانپریشی ناشی از هوش مصنوعی» منتشر شده است؛ این اصطلاح به پدیدهای اشاره دارد که در آن کاربران هوش مصنوعی پس از تعاملات طولانی با چتباتها دچار توهم، پارانویا و حتی چرخههای فکری منتهی به خودکشی میشوند. کار..
ادامه مطلب
11 مهر 1405
کارمند ایمنی اوپنایآی استعفا داد: «هوش مصنوعی را مثل نیروگاههای هستهای قانونمند کنید»
دیوید رابینسون، مسئول پیشین تدوین گزارشهای ایمنی اوپنایآی، با استعفا از سمت خود خواستار اتخاذ تدابیر ایمنی مشابه نیروگاههای هستهای شد.
به گزارش خبرگزاری خبرآنلاین و براساس گزارش زومیت، موج کنارهگیری متخصصان ایمنی از استارتاپهای پیشرو هوش مصنوعی وارد مرحلهی تازهای شده است. دیوید رابینسون که وظیفهی تدوین گزارشهای رسمی ایمنی برای مدلهای شاخص را در اوپنایآی بر عهده داشت، از سمت خود کنارهگیری کرد تا با نگارش مقالهای تحلیلی، فرهنگ شتابزدهی حاکم بر سیلیکون ولی را به چالش بکشد.
رابینسون در یادداشتی برای نشریهی آتلانتیک ساختار رفتاری غولهای فناوری را «از اساس معیوب» خواند و تأکید کرد اعمال چند قانون موقت بر شیوهی آموزش مدلها برای مهار خطرات کفایت نمیکند. شرکتهای مستقر در کالیفرنیا سالها با خوشبینی مفرط، اعتمادبهنفس کاذب و شتاب مداوم به جلو رانده شدهاند و پیامدهای ناخواستهی سیستمهای قدرتمند را دستکم گرفتهاند.
به گفتهی رابینسون، سازندگان مدلهای زبانی بزرگ باید رویکرد کنونی را کنار بگذارند و به استانداردهای آزمودهشده در صنایع پرخطر روی آورند. رابینسون بر این ب..
ادامه مطلب
11 مهر 1405
همکاری انسان و ماشین در آزمایشگاه؛ هوش مصنوعی دانشمند شد
پژوهشگران سوئدی دانشمند هوش مصنوعی جدیدی توسعه دادند که بدون دخالت مستقیم انسان فرضیهسازی، طراحی آزمایش و تحلیل نتایج را انجام میدهد.
به گزارش خبرگزاری خبرآنلاین و براساس گزارش زومیت، پژوهشگران دانشگاه صنعتی چالمرز در سوئد سامانهی هوش مصنوعی جدیدی توسعه دادهاند که توانایی تولید فرضیههای علمی، طراحی آزمایشهای تجربی و تفسیر دادهها را دارد. سامانهی مذکور با حداقل دخالت انسانی دست به اکتشافات زیستشناختی میزند و گامی مهم در پیشبرد آزمایشگاههای خودران بهشمار میرود.
طبق یافتههای منتشرشده در نشریهی Journal of the Royal Society Interface، ترکیب مدلهای زبانی بزرگ با استدلال خودکار و اتوماسیون آزمایشگاهی، یک چرخهی پژوهشی بسته روی مخمر نان ایجاد کرده است. دیتابیس ارائهشده به این سامانه شامل ژنوم مخمر، مسیرهای متابولیک و حجم وسیعی از مقالات پیشین میشود.
اوگنیا تیوکووا، پژوهشگر پسادکتری در دپارتمان علوم زیستی دانشگاه صنعتی چالمرز و از نویسندگان مقاله، میگوید: «حجم اطلاعات فراتر از توان تحلیل انسان است؛ اما دانشمند هوش مصنوعی ما توانست پرسشهای زیستی نویدبخش را شناسایی کند، آزما..
ادامه مطلب
10 مهر 1405
«دانشمند هوش مصنوعی» خودش آزمایش را طراحی و اجرا میکند
پژوهشگران سوئدی سامانه هوش مصنوعیای ساختهاند که با کمترین دخالت انسان، کل فرایند علمی از طرح فرضیه تا تفسیر نتایج را انجام میدهد.
به گزارش خبرآنلاین، به نقل از یورونیوز، پژوهشگران در سوئد یک دانشمند هوش مصنوعی توسعه دادهاند که قادر است فرضیههای علمی تولید کند، آزمایشها را طراحی کند و نتایج را تفسیر کند.
این گروه چندین مدل زبانی بزرگ (LLM)، پایگاههای داده گسترده و رباتهای فیزیکی آزمایشگاهی را در قالب یک سامانه حلقهبسته ادغام کردند که میتواند چرخه کامل کشف علمی را اجرا کند.
ایوگنیا تیوکوا، پژوهشگر دانشگاه فناوری چالمرز و یکی از نویسندگان این مطالعه تازه که دانشمند هوش مصنوعی را بررسی کرده است، گفت: «حجم اطلاعات آنقدر زیاد است که یک انسان نمیتواند آن را تحلیل کند، اما دانشمند هوش مصنوعی ما میتواند پرسشهای امیدبخش زیستی را شناسایی کند، آزمایشهایی برای آزمودن آنها پیشنهاد دهد، نتایج آزمایش را ارزیابی کند و به طور تکراری بر اساس شواهد تازه درک خود را اصلاح کند.»
دانشمند هوش مصنوعی یک پایگاه داده شامل حدود ۶۰ هزار رابطه فنوتیپی، فیزیولوژیک و متابولیک مربوط به S. cerevisiae ـ ..
ادامه مطلب
10 مهر 1405
بیل گیتس: رباتها هم باید مالیات بدهند
«بیل گیتس»، همبنیانگذار مایکروسافت، برای اطمینان از اینکه انسانها در صورت وقوع یک بحران گسترده در بازار کار بهدلیل هوش مصنوعی همچنان درآمد خود را حفظ کنند، پیشنهاد مالیات بر رباتها را مطرح کرد. البته او سالها قبل نیز چنین ایدهای را پیشنهاد داده بود.
به گزارش خبرآنلاین، به نقل از دیجیاتو، گیتس در مصاحبه جدیدش با نیویورک تایمز گفت این جامعه است که تصمیم میگیرد چگونه از نیروی کار خود حمایت کند؛ حتی اگر هوش مصنوعی باعث حذف برخی از مشاغل آنها شود.
او با اشاره به مالیات حقوق و دستمزد آمریکا موسوم به FICA گفت: «شما یک واحد کار تعریف میکنید و میگویید، صرفنظر از اینکه این کار توسط یک انسان یا یک ربات انجام میشود، باید همان مالیات FICA را بپردازید که یک نیروی انسانی میپردازد.»
گیتس اولینبار در سال ۲۰۱۷، یعنی سالها پیش از ظهور ChatGPT، خواستار وضع مالیات بر رباتها شد. او در آن زمان گفته بود این مالیات میتواند برای کمک به افرادی استفاده شود که شغل خود را در اثر خودکارسازی از دست دادهاند.
گیتس پیشنهاد مالیات گرفتن از توکنهای هوش مصنوعی را نیز مطرح کرده است مالیات FICA به این ش..
ادامه مطلب
10 مهر 1405
رمزگشایی نامه محرمانه دوران ناپلئون پس از ۲۱۷ سال
یک کاربر با کمک GPT-۶ Astra موفق شد رمزنگاری ناشناختهای را که در نامهای مربوط به «مارشال مارمون»، ژنرال ارتش ناپلئون، وجود داشت، پس از ۲۱۷ سال رمزگشایی کند. این نامه سالها در فهرست رمزهای تاریخی حلنشده قرار داشت و «ساتوشی توموکیو»، پژوهشگر حوزه رمزهای تاریخی، اکنون حل آن را تأیید کرده است.
به گزارش خبرآنلاین، به نقل از دیجیاتو، نامه موردنظر تنها با یک سطر فرانسوی آغاز میشود و پس از آن ۲۴ ردیف شامل اعداد دورقمی، حروف و نمادهای عجیب دیده میشود. متن کامل نامه در منابع منتشر نشده بود و تصویر آن از مقالهای متعلق به سال ۱۹۶۹ در مجله Revue historique des Armées باقی مانده بود. نسخه منتشرشده در آن مقاله نیز تاریخ نادرستی برای نامه داشت.
طبق گفته Carter Church، فرایند حل این رمز با یک تصویر از همان صفحه و یک هدف مشخص انجام شد و حدود شش ساعت زمان اجرای GPT-۶ Astra طول کشید. این مدل ابتدا تصویر ۱۲۰۲ در ۱۸۳۶ پیکسلی را به ردیفهای جداگانه تقسیم کرد و نشانههای دستنویس را خواند.
در مجموع، متن شامل حدود ۱۳۰۰ واحد رمز و ۱۵۵ نشانه متفاوت بود. ۳۳ مقدار حرفی از جدولی که پیشتر توسط «دانیل تان»،..
ادامه مطلب
10 مهر 1405
آینده هوش مصنوعی چگونه خواهد بود؟ از تغییر شغلها تا زندگی روزمره
آینده هوش مصنوعی از همین امروز آغاز شده است. این فناوری دیگر فقط یک چتبات یا ابزار تازه در تلفن همراه نیست؛ بهتدریج در جستوجو، آموزش، تولید محتوا، برنامهنویسی، خدمات مشتری، پزشکی، پژوهش و مدیریت انرژی حضور پیدا میکند.
به گزارش خبرگزاری خبرآنلاین، گزارش ۲۰۲۶ شاخص هوش مصنوعی دانشگاه استنفورد از افزایش توانایی مدلهای پیشرو و گسترش استفاده سازمانی از این فناوری خبر میدهد. در عین حال، این گزارش هشدار میدهد که آموزش، ارزیابی و سازوکارهای حکمرانی هوش مصنوعی با سرعت پیشرفت آن همگام نشدهاند. بنابراین، پرسش آینده فقط این نیست که هوش مصنوعی چه کارهایی میتواند انجام دهد؛ بلکه این است که چگونه میتوان از آن به شکلی امن، مسئولانه و سودمند استفاده کرد.
هوش مصنوعی در آینده چه شکلی خواهد داشت؟ یکی از روندهای مهم، حرکت از ابزارهای صرفاً پاسخگو بهسوی عاملهای هوشمند است. چتبات معمولی به پرسش کاربر پاسخ میدهد؛ اما یک عامل هوشمند میتواند هدفی را دریافت کند، برای انجام آن برنامه بریزد، از ابزارهای مختلف کمک بگیرد و نتیجه را بررسی کند.
برای مثال، کاربر ممکن است بهجای جستوجوی جداگانه بلیت، ..
ادامه مطلب
9 مهر 1405
ایجنتهای هوش مصنوعی برای نفوذ به سامانه دولتی کانادا تلاش کردند
یک شرکت پژوهشی حوزه هوش مصنوعی از تلاش ناموفق ایجنتهای هوش مصنوعی برای دسترسی به وبسایت کتابخانه و آرشیو کانادا خبر داده است؛ اقدامی که هرچند به گفته دولت کانادا به نفوذ یا آسیب به سامانههای دولتی منجر نشده، نگرانیها درباره توانایی ایجنتهای هوش مصنوعی در انجام حملات سایبری مستقل را افزایش داده است.
به گزارش خبرگزاری خبرآنلاین و براساس گزارش دیجیاتو، شرکت پژوهشی «Transluce» اعلام کرده است که ایجنتهای هوش مصنوعی در روزهای ۲۸ مه و ۹ ژوئن تلاش کردهاند به وبسایت «کتابخانه و آرشیو کانادا» دسترسی پیدا کنند. به گفته این شرکت، الگوی رفتاری این ایجنتها شباهتهایی با فعالیتهایی دارد که پیشتر از ایجنتهای هوش مصنوعی منتسب به «OpenAI» مشاهده شده بود؛ با این حال، «Transluce» تأکید کرده است که نمیتوان این حمله را با قطعیت به «OpenAI» نسبت داد.
دولت کانادا: نشانهای از نفوذ به سامانهها وجود ندارد «مرکز امنیت سایبری کانادا» اعلام کرده است که از گزارش مربوط به فعالیت مشکوک ایجنتهای هوش مصنوعی مطلع شده، اما در حال حاضر هیچ شواهدی از به خطر افتادن سامانههای دولتی این کشور وجود ندارد.
«Tra..
ادامه مطلب
9 مهر 1405
بسیاری از رمزهای عبور لورفته در گیتهاب، هنوز هم کار میکنند
پژوهشگران امنیتی بیش از ۵۴۰ هزار کلید دسترسی فعال را در مخازن عمومی گیتهاب کشف کردند که برخی ۱۷ سال قدمت دارند.
به گزارش خبرگزاری خبرآنلاین و براساس گزارش زومیت، بررسیهای جدید نشان میدهد بیش از نیم میلیون کلید امنیتی فاششده در پلتفرم گیتهاب همچنان معتبر و فعال هستند. طبق یافتههای پژوهشگران، قدیمیترین کلید دسترسی کشفشده که هنوز کار میکند، ۱۷ سال پیش در این بستر بارگذاری شده بود.
محققان با بررسی ۲۲۴ میلیون مخزن عمومی توانستند ۵۴۳٬۶۹۹ کلید امنیتی فعال را شناسایی کنند. میانه عمر کلیدهای معتبر کشفشده ۷۸۴ روز برآورد شده که نشاندهنده ماندگاری طولانیمدت اطلاعات حساس در فضای عمومی وب است.
تفاوت رویکرد پلتفرمها در مدیریت دادههای لو رفته، تفاوت چشمگیری در نتایج ایجاد کرده است. سازوکار npm کلیدهای فاششده را بهطور خودکار باطل میکند و به همین دلیل تنها یک مورد از ۱۰۱٬۸۸۶ کلید فاششده آن همچنان کارایی داشت.
در سوی دیگر، از میان ۱۲۶٬۹۶۳ کلید دسترسی فاششده متعلق به حسابهای سرویس گوگل کلاد، بیش از نیمی از آنها کماکان فعال باقی ماندهاند.
۲۲۷۲۲۷
ادامه مطلب