آوا بلاگ

آوا بلاگ

سه پژوهشگر ایمنی هوش مصنوعی از اوپن‌ای‌آی اخراج شدند؛ چرا؟

شرکت اوپن‌ای‌آی در واکنش به انتقادها درباره اخراج سه پژوهشگر حوزه ایمنی هوش مصنوعی اعلام کرد که قطع همکاری با آن‌ها به دلیل نقض سیاست‌های مربوط به مدیریت اطلاعات حساس و از بین رفتن اعتماد بوده است؛ ادعایی که پژوهشگران برکنارشده آن را رد کرده و گفته‌اند هشدارهایشان درباره ایمنی هوش مصنوعی در این تصمیم نقش داشته است. به گزارش خبرگزاری خبرآنلاین و براساس گزارش زومیت، شرکت اوپن‌ای‌آی از تصمیم خود برای اخراج سه پژوهشگر ارشد حوزه ایمنی هوش مصنوعی دفاع کرد و تأکید داشت که این اقدام ارتباطی با ابراز نگرانی آن‌ها درباره امنیت توسعه هوش مصنوعی نداشته است. بر اساس گزارش زومیت، جاسمین وانگ، تومک کورباک و میکیتا بالِسنی به دلیل آنچه شرکت «نقض قابل‌توجه اعتماد» و تخطی از سیاست‌های مشخص در مدیریت اطلاعات حساس عنوان کرده، از اوپن‌ای‌آی اخراج شده‌اند. مدیران این شرکت می‌گویند بررسی‌های داخلی، مواردی فراتر از آنچه در نامه اعتراضی پژوهشگران مطرح شده بود، نشان داده است. پژوهشگران برکنارشده پیش‌تر با انتشار نامه‌ای خواستار شفافیت بیشتر درباره علت اخراج خود شده بودند. آن‌ها اعلام کردند اقداماتشان با اهداف..
ادامه مطلب

زلزله‌ای خاموش در بازار کار؛ هوش مصنوعی چگونه مشاغل را دگرگون می‌کند؟

آینده دیگر تصویر دوردستی در داستان‌های علمی‌تخیلی نیست؛ هوش مصنوعی همین حالا در بسیاری از محیط‌های کاری به کار گرفته می‌شود: کد می‌نویسد، داده‌ها را بررسی می‌کند و برای تولید یا ویرایش متن به کارکنان کمک می‌کند. این فناوری در حال تغییر وظایف و فرایندهای کاری است، اما پیامدهای آن برای همه مشاغل یکسان نیست. به گزارش خبرگزاری خبرآنلاین در این مقاله بررسی می‌کنیم کدام وظایف بیشتر در معرض تغییرند، این دگرگونی چه نگرانی‌هایی ایجاد می‌کند و افراد و سازمان‌ها چگونه می‌توانند برای آن آماده شوند. ۱. جابه‌جایی بزرگ: وقتی هوش مصنوعی به کارهای فکری وارد می‌شود انقلاب صنعتی بیشتر با دگرگونی کارهای فیزیکی شناخته می‌شود؛ اما هوش مصنوعی می‌تواند بخشی از کارهای شناختی و اداری را نیز تغییر دهد. این به آن معنا نیست که همه مشاغل فکری در معرض حذف‌اند. در بسیاری از موارد، هوش مصنوعی برخی وظایف را سریع‌تر یا با کمک انسان انجام می‌دهد، نه اینکه کل یک شغل را جایگزین کند. برنامه‌نویسان و توسعه‌دهندگان نرم‌افزار: ابزارهای هوش مصنوعی می‌توانند در نوشتن نمونه‌های اولیه کد، تولید آزمون و یافتن برخی خطاها کمک کنند...
ادامه مطلب

هوش مصنوعی نوجوان ۱۶ ساله را به «مسیر مرگ» فرستاد؛ نجات نفس‌گیر با هلیکوپتر

یک نوجوان ۱۶ ساله در بریتیش کلمبیای کانادا، پس از استفاده از یک چت‌بات هوش مصنوعی برای پیدا کردن مسیر، در منطقه‌ای خطرناک از کوهستان گرفتار شد و نیروهای امدادی مجبور شدند برای نجات او وارد عمل شوند. به گزارش خبرآنلاین، این نوجوان با تله‌کابین خود را به ارتفاع بیش از ۱۲۰۰ متری در نزدیکی قله کوهستان گروس رسانده بود. هنگام بازگشت، برای پیدا کردن مسیر از Claude، چت‌بات هوش مصنوعی شرکت آنتروپیک کمک گرفت. اما توصیه‌های این سامانه او را از مسیر اصلی خارج کرد و به سمت پای صخره‌ای بسیار شیب‌دار به نام Widowmaker به معنای بیوه‌ساز هدایت کرد. نوجوان در نهایت در محلی گرفتار شد که امکان حرکت بیشتر در آن وجود نداشت. وضعیت او خطرناک بود، زیرا سقوط از آن نقطه می‌توانست به جراحت شدید یا حتی مرگ منجر شود. خوشبختانه او توانست با نیروهای امدادی تماس بگیرد. بالگرد امدادی به دلیل شیب تقریبا عمودی صخره نمی‌توانست به اندازه کافی به محل نزدیک شود. در نتیجه، دو امدادگر خود را به منطقه رساندند. یکی از آنها با استفاده از تجهیزات ایمنی و طناب پایین رفت و پس از ایجاد نقاط حفاظتی، نوجوان را به محل مناسبی برای انتق..
ادامه مطلب

آهنگ‌های هوش مصنوعی این مرد از تیلور سوئیفت جلو زدند / ۸۰ میلیون استریم جعلی در یک ماه!

یک مرد آمریکایی با استفاده از هوش مصنوعی، حساب‌های جعلی و ربات‌ها میلیاردها بار آهنگ پخش کرد و بیش از ۸ میلیون دلار درآمد غیرقانونی به دست آورد. حالا باید ۱۸ ماه را در زندان بگذراند. او با فریب توانست از تیلور سوییفت در یوتیوب موزیک پیشی بگیرد. به گزارش خبرآنلاین، مایکل اسمیت، موزیسین ۵۴ ساله آمریکایی، به دلیل راه‌اندازی یک شبکه گسترده برای پخش جعلی آهنگ‌های تولیدشده با هوش مصنوعی به ۱۸ ماه زندان محکوم شد. اسمیت بین سال‌های ۲۰۱۷ تا ۲۰۲۴ هزاران حساب جعلی در سرویس‌هایی مانند Spotify، Apple Music، Amazon Music و YouTube Music ساخت. سپس با استفاده از ربات‌ها، آهنگ‌های خودش و صدها هزار قطعه تولیدشده با هوش مصنوعی را میلیاردها بار پخش کرد. او برای اینکه سیستم‌های ضدتقلب متوجه فعالیت غیرعادی نشوند، پخش‌های جعلی را میان تعداد بسیار زیادی آهنگ تقسیم می‌کرد. طبق اسناد دادگاه، تعداد حساب‌های رباتی او در مقاطعی به ۱۰ هزار حساب هم‌زمان می‌رسید. فریب سیستم‌های ضدفریب با هوش مصنوعی هوش مصنوعی بخش مهمی از این نقشه بود. اسمیت برای دور زدن سیستم‌های ضدتقلب به تعداد زیادی آهنگ نیاز داشت و از هوش مصنوع..
ادامه مطلب

شمشیر دولبه سایبر؛ هوش مصنوعی چگونه میدان نبرد مدافعان و مهاجمان دیجیتال را تغییر می‌دهد؟

هوش مصنوعی هم‌زمان به سپری برای کشف تهدیدها و شتاب‌دهنده‌ای برای حملات سایبری تبدیل شده است؛ رقابتی که در آن، سرعت تصمیم‌گیری، کیفیت داده و آمادگی نیروی انسانی بیش از گذشته اهمیت دارد. به گزارش خبرگزاری خبرآنلاین، امنیت سایبری سال‌ها با مسئله‌ای قدیمی دست‌وپنجه نرم می‌کرد: حجم اطلاعاتی که باید بررسی می‌شد، بسیار بیشتر از چیزی بود که یک تیم انسانی می‌توانست به‌موقع تحلیل کند. لاگ‌های سرورها، هشدارهای سامانه‌های تشخیص نفوذ، رفتار کاربران، تغییرات شبکه و صدها سیگنال دیگر پیوسته تولید می‌شوند. در چنین فضایی، هوش مصنوعی به ابزاری برای دسته‌بندی داده‌ها، کشف الگوها و اولویت‌بندی هشدارها تبدیل شده است؛ نه برای جایگزین‌کردن متخصص امنیت، بلکه برای کمک به او تا از میان انبوه داده‌ها، نشانه‌های مهم را سریع‌تر پیدا کند. یکی از کاربردهای شناخته‌شده هوش مصنوعی، تشخیص ناهنجاری‌های رفتاری است. سامانه‌های یادگیری ماشین می‌توانند الگوهای معمول فعالیت یک کاربر، دستگاه یا سرویس را بررسی کنند و رفتارهای غیرعادی را برای بررسی بیشتر علامت بزنند. برای مثال، ورود غیرمعمول به یک حساب کاربری، تغییر ناگهانی در ..
ادامه مطلب

شمشیر دولبه سایبر؛ هوش مصنوعی چگونه میدان نبرد مدافعان و مهاجمان دیجیتال را تغییر می‌دهد؟

هوش مصنوعی هم‌زمان به سپری برای کشف تهدیدها و شتاب‌دهنده‌ای برای حملات سایبری تبدیل شده است؛ رقابتی که در آن، سرعت تصمیم‌گیری، کیفیت داده و آمادگی نیروی انسانی بیش از گذشته اهمیت دارد. به گزارش خبرگزاری خبرآنلاین، امنیت سایبری سال‌ها با مسئله‌ای قدیمی دست‌وپنجه نرم می‌کرد: حجم اطلاعاتی که باید بررسی می‌شد، بسیار بیشتر از چیزی بود که یک تیم انسانی می‌توانست به‌موقع تحلیل کند. لاگ‌های سرورها، هشدارهای سامانه‌های تشخیص نفوذ، رفتار کاربران، تغییرات شبکه و صدها سیگنال دیگر پیوسته تولید می‌شوند. در چنین فضایی، هوش مصنوعی به ابزاری برای دسته‌بندی داده‌ها، کشف الگوها و اولویت‌بندی هشدارها تبدیل شده است؛ نه برای جایگزین‌کردن متخصص امنیت، بلکه برای کمک به او تا از میان انبوه داده‌ها، نشانه‌های مهم را سریع‌تر پیدا کند. یکی از کاربردهای شناخته‌شده هوش مصنوعی، تشخیص ناهنجاری‌های رفتاری است. سامانه‌های یادگیری ماشین می‌توانند الگوهای معمول فعالیت یک کاربر، دستگاه یا سرویس را بررسی کنند و رفتارهای غیرعادی را برای بررسی بیشتر علامت بزنند. برای مثال، ورود غیرمعمول به یک حساب کاربری، تغییر ناگهانی در ..
ادامه مطلب

«ChatGPT» تغییر کرد / رونمایی از رابط کاربری هوشمند

چت‌بات‌های هوش مصنوعی تا پیش از این بیشتر متکی بر ساختارهای متنی بودند، اما اوپن‌ای‌آی با یک به‌روزرسانی اساسی ساختار تعامل با کاربران را دستخوش دگرگونی کرد. چت‌جی‌پی‌تی اکنون به سازوکار جدید Intelligent UI مجهز شده که چت‌بات را قادر می‌سازد پاسخ پرسش‌ها را همراه با عناصر بصری، فرم‌ها، دکمه‌های قابل لمس و نمودارهای تعاملی نمایش دهد. به گزارش خبرآنلاین، به نقل از زومیت، ساختار تعاملی تازه، هم‌گام با مدل‌های GPT-۶ در دسترس کاربران قرار می‌گیرد. اوپن‌ای‌آی این مدل‌ها را طوری آموزش داده که به شکل خودکار تشخیص دهند در چه مواردی استفاده از جلوه‌های بصری تعاملی کارآمدتر از متن خام است و چگونه باید المان‌های گرافیکی را در جریان گفت‌وگو بگنجانند. توانایی‌های این قابلیت فراتر از نمایش تصاویر ثابت است. در صورتی که کاربری درباره‌ی مکانیزم یک دوچرخه‌ی هفت‌سرعته سؤال کند، چت‌جی‌پی‌تی دیاگرامی کامل به همراه دکمه‌های تعاملی رسم می‌کند تا با ضربه روی هر بخش، توضیحات قطعه‌ی مشخص نمایان شود. آموزش بازی‌های پیچیده مانند ماژونگ نیز با تولید کارت‌های قابل پیمایش و دسته‌بندی‌شده صورت می‌گیرد. تولید ابزاره..
ادامه مطلب

هوش مصنوعی چکونه مخاطب را در باره آزادشدن تتلو گول زد؟

در روزهای گذشته یک ویدئوی چند ثانیه‌ای از آزادی تتلو منتشر شد؛ ویدئویی که ساختگی بودن آن در همان لحظه و نگاه اول؛ عیان بود اما در کمال تعجب این ساخته هوش مصنوعی به سرعت در شبکه‌های اجتماعی با عنوان خبر جعلی آزادی تتلو از زندان بازنشر شد. به گزارش خبرآنلاین روزنامه همشهری نوشت: نکته عجیب‌تر این است که عده‌ای این تصویر غیرواقعی را باور کردند. در نهایت حاشیه‌های این خبرسازی چنان دنباله‌دار شد که خواهر تتلو با انتشار ویدئویی دست به تکذیب خبر زد. در این رابطه بحث اصلی پیرامون آزادی یا ادامه زندان تتلو نیست؛ موضوع مهم این است که چطور تولیدات سطح پایین هوش مصنوعی به این راحتی، مورد قبول مخاطب قرار می‌گیرد؟ 17302
ادامه مطلب

اسقبال خیره‌کننده از هوش مصنوعی جدید متا؛ «میوس» به صدر دانلود اپلیکیشن‌ها رسید

دستیار هوش مصنوعی Muse متعلق به متا در صدر جدول دانلودها قرار گرفت؛ اما جلب اعتماد کاربران چالش اصلی باقی مانده است. به گزارش خبرگزاری خبرآنلاین و براساس گزارش زومیت، دستیار هوش مصنوعی Muse که مارک زاکربرگ آن را بخش محوری راهبرد هوش مصنوعی متا می‌داند، در صدر جدول اپ استور اپل قرار گرفت. موفقیت اولیه‌ی برنامه‌ی مورد بحث رشد حدود ۲۰ درصدی ارزش سهام متا را از زمان عرضه در یک ماه گذشته رقم زد و بهترین عملکرد ماهانه‌ی این مجموعه‌ی بزرگ فناوری را ثبت کرد. متا که پیش‌تر پشت سر رقبایی نظیر اوپن‌ای‌آی و گوگل حرکت می‌کرد، اکنون تلاش دارد تا کاربران را پس از فروکش‌کردن هیجان اولیه، به استفاده‌ی مداوم از میوس عادت دهد. مرسدس ویلن، مدیر ارشد پژوهش در مؤسسه‌ی IDC، می‌گوید: «دستیار میوس این شانس را دارد که به ابزاری ماندگار برای مصرف‌کنندگان تبدیل شود، چرا که صرفا یک چت‌بات نیست بلکه کارها را به سرانجام می‌رساند.» نگرانی‌های مربوط به حفظ حریم خصوصی یکی از موانع کلیدی بر سر راه گسترش هوش مصنوعی جدید محسوب می‌شود؛ به‌ویژه پس از آنکه متا اخیرا با پرداخت غرامت حدود ۱۷ میلیارد دلاری در پرونده‌ی آسیب‌ه..
ادامه مطلب

ارزیابی کارشناسان: نسخه نوجوانان ChatGPT هم ایمن نیست

مؤسسه غیرانتفاعی «Common Sense Media» در ارزیابی بیش از ۴ هزار پرامپت، نسخه مخصوص نوجوانان ChatGPT را نیز دارای «ریسک غیرقابل‌قبول» دانسته و اعلام کرده است برخی سازوکارهای نظارتی و ایمنی این چت‌بات در مواجهه با موقعیت‌های حساس عملکرد مناسبی ندارند. به گزارش خبرگزاری خبرآنلاین و براساس گزارش دیجیاتو، پژوهشگران «Common Sense Media» بیش از ۴ هزار دستور متنی را در ChatGPT بررسی کرده‌اند؛ نیمی از این آزمایش‌ها پیش از راه‌اندازی قابلیت ویژه نوجوانان و نیمی دیگر پس از آن، روی حساب‌های کاربری مربوط به افراد ۱۳ تا ۱۷ سال انجام شده است. این مؤسسه در ارزیابی خود پایین‌ترین امتیاز، یعنی «ریسک غیرقابل‌قبول»، را به نسخه نوجوانان ChatGPT اختصاص داده و از شرکت «OpenAI» خواسته است تا زمانی که نتواند محیطی ایمن‌تر برای این گروه سنی فراهم کند، تبلیغ این قابلیت را متوقف کند. هشدارهای والدین زیر ذره‌بین یکی از مهم‌ترین ایرادهای مطرح‌شده در این گزارش، عملکرد سیستم هشدار والدین است. آزمایش‌کنندگان در بیش از ۱۲ حساب کاربری متصل به والدین، گفت‌وگوهایی درباره موضوعات حساس را آزمایش کردند، اما در حساب‌های جدید..
ادامه مطلب
1 … 16 17 18 19 20 … 34