به نقل از «مهر»

ابداع روش هایی برای فرار از قوانین ایمنی هوش مصنوعی

تاریخ انتشار: ۸ مرداد ۱۴۰۲ | کد خبر: ۳۸۳۴۵۲۵۵

به گزارش خبرگزاری مهر به نقل از نشریه هیل، تحقیق جدید دانشگاه کارنگی ملون روش‌های جدیدی را برای دور زدن پروتکل‌های ایمنی نشان می‌دهد. براساس این پژوهش جلوگیری از ایجاد محتوای مخرب چت‌بات‌های هوش مصنوعی ممکن است دشوارتر از آنچه در تصورات اولیه است، باشد. سرویس‌های مشهور هوش مصنوعی مانند ChatGPT و Bard از محتوای ورودی‌ کاربر برای تولید پاسخ‌های مفید از تولید متون و ایده‌ها گرفته تا کل نوشته‌ها، استفاده می‌کنند.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

این سرویس‌ها دارای پروتکل‌های ایمنی هستند که از ایجاد محتوای مخرب مانند مطالب توهین‌آمیز یا مجرمانه توسط ربات‌ها جلوگیری می‌کند.

در این میان برخی از محققان کنجکاو راه فرار یا«jailbreak» را کشف کرده‌اند که در حقیقت یک دستگاه کادربندی است که هوش مصنوعی را فریب می‌دهد تا از پروتکل‌های ایمنی آن اجتناب کند. البته توسعه‌دهندگان نرم افراز به راحتی می‌توانند این شکاف ها را ترمیم کنند. یک راه فرار مشهور در این زمینه، درخواست از ربات برای پاسخ دادن به یک سوال ممنوع بود. این سوال مانند داستانی است که از طرف مادر بزرگ‌ کاربر، بیان می شود.

ربات نیز پاسخ را در قالب یک داستان ایجاد می‌کند و اطلاعاتی ارائه می‌دهد که در غیر این صورت قادر به ارایه آنها نبود.

اکنون محققان شکل جدیدی از راه فرار برای هوش مصنوعی را کشف کردند که توسط رایانه نوشته شده و اساساً امکان ایجاد بی نهایت الگوی فرار را فراهم می کند.

محققان در این باره می گویند:ما نشان می‌دهیم در واقع امکان ساخت خودکار حملات متخاصمانه روی چت بات ها وجود دارد. چنین حملاتی باعث می‌شود سیستم حتی در صورت تولید محتوای مخرب از دستورات کاربر اطاعت کند.

برخلاف راه فرارهای معمول این حوزه، محتوای مذکور کاملاً خودکار ساخته می‌شود و به فرد امکان می‌دهند تعداد تقریباً نامحدودی از این حملات را ایجاد کنند.

در بخشی ار تحقیق آمده است: این امر نگرانی هایی درباره ایمنی چنین مدل‌هایی به‌وجود می‌آورد.

این نوع جدید حمله می تواند اقدامات امنیتی را تقریبا در تمام چت بات های هوش مصنوعی موجود در بازار دور بزند.

کد خبر 5849528

منبع: مهر

کلیدواژه: حاکمیت سایبری هوش مصنوعی تحقیقات علمی حاکمیت سایبری تحقیقات علمی هوش مصنوعی شرکت های دانش بنیان معاونت علمی فناوری و اقتصاد دانش بنیان ریاست جمهوری صندوق نوآوری و شکوفایی فناوری نانو نوآوری صادرات دانش بنیان وزارت ارتباطات و فناوری اطلاعات امنیت اطلاعات ماهواره شورای عالی فضای مجازی طرح های پژوهشی هوش مصنوعی راه فرار

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.mehrnews.com دریافت کرده‌است، لذا منبع این خبر، وبسایت «مهر» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۸۳۴۵۲۵۵ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

اقدام کمیسیون اروپا علیه فیس بوک و اینستاگرام

اتحادیه اروپا از فیس‌بوک و اینستاگرام به اتهام اقدامات گسترده و موارد مشکوک به نقض قانون خدمات دیجیتالی، از جمله عدم اقدامات کافی برای محافظت از کاربران در برابر انتشار اطلاعات نادرست خارجی در آستانه انتخابات سراسری اروپایی تحقیق می‌کند. - اخبار بین الملل -

به گزارش گروه بین‌الملل خبرگزاری تسنیم به نقل از روزنامه "دی پرسه"، کمیسیون اتحادیه اروپا پرونده شرکت متا، (شرکت مادر فیس بوک و اینستاگرام) را بازگشایی کرده است. این پرونده در مورد نقض احتمالی "قانون خدمات دیجیتال" و قوانین حفاظت از داده اتحادیه اروپا است.

به این ترتیب کمپین روسی "صدای اروپا" که هدفش به اذعان بروکسل پر کردن اروپا از ایدئولوژی پوتین با کمک کمپین های اطلاعات نادرست بود، پیامدهایی برای متا (مادر فیسبوک و اینستاگرام) داشته است. کمیسیون اتحادیه اروپا می خواهد موارد نقض احتمالی قوانین خود از طریف این شرکت را بررسی کند. در اینجا مسئله مدیریت متا با تبلیغات سیاسی مطرح است. گفته می شود که این شرکت نتوانسته است از انتشار اطلاعات نادرست هدفمند بخصوص از طرف روسیه جلوگیری کند.

کمیسیون کمپین به اصطلاح دوپلگانگر را هدف قرار داده است. به ادعای بروکسل کمپین با تقلید از منابع خبری معروف و معتبر، اینترنت را پر از محتوای تبلیغاتی در حمایت از سیاست های ولادیمیر پوتین، رئیس جمهور روسیه کرد.

کمیسیون اروپا در بیانیه ای اعلام کرد که تحقیقات قانون خدمات دیجیتال (DSA) سیاست ها و شیوه های شرکت متا را در رابطه با تبلیغات گمراه کننده و محتوای سیاسی در آستانه انتخابات اروپا در ژوئن بررسی خواهد کرد. البته روسیه به طور خاص ذکر نشده است.

اورسولا فون در لاین، رئیس کمیسیون اتحادیه اروپا، در بیانیه‌ای گفت: طبق قوانین اتحادیه اروپا، شرکت‌های فناوری باید از انتشار محتوای خطرناک جلوگیری کنند، در غیر این صورت با جریمه‌های سنگین مواجه می‌شوند. وی تاکید کرد: این کمیسیون ابزارهایی را برای محافظت از شهروندان اروپایی در برابر اطلاعات نادرست و دستکاری هدفمند توسط کشورهای ثالث ایجاد کرده است.

متا اکنون پنج روز کاری فرصت دارد تا قبل از ادامه این روند، به نگرانی های اتحادیه اروپا پاسخ دهد.

سال گذشته کمیسیون اروپایی علیه X (توئیتر سابق) در یک پرونده مشابه بررسی نحوه مدیریت پلتفرم ایلان ماسک با محتوای غیرقانونی و اطلاعات نادرست، به ویژه در ارتباط با حملات حماس به اسرائیل در 7 اکتبر را آغاز کرد.

کمیسیون اروپایی تاکید کرد: شروع این رویه صرفاً یک شبهه را بررسی می‌کند و ارزیابی اولیه مرجع هنوز نتیجه نهایی را نشان نمی‌دهد. کمیسیون اعلام کرد که به جمع آوری شواهد، به عنوان مثال از طریق مصاحبه، ادامه خواهد داد. علاوه بر این، کمیسیون اتحادیه اروپا از نظر تئوری می تواند امتیازات متا را بپذیرد.

در ماه اکتبر، تیری برتون، کمیسر صنعت اتحادیه اروپا به فیس بوک در مورد محتوای بیش از حد تحریف شده در این پلتفرم در ارتباط با انتخابات اروپا هشدار داد. برتون نوشت که می‌خواهد فوراً در مورد جزئیات اقدامات فیس بوک برای جلوگیری از جعل، از جمله با توجه به انتخابات آتی در اتحادیه اروپا مطلع شود. پارلمان اروپا در تابستان مجدداً انتخاب خواهد شد.

بروکسل از زمان اجرایی شدن قانون خدمات دیجیتال در سال گذشته، در حال مقابله با نفوذ روزافزون شرکت‌های فناوری بوده و تحقیقاتی را در مورد سایت‌های شبکه اجتماعی تیک‌تاک و ایکس (توییتر سابق)  آغاز کرده است. تیک‌تاک هفته گذشته در برابر فشار اتحادیه اروپا تسلیم شد و پس از اینکه کمیسیون از این پلتفرم درباره یک ویژگی پاداش در اپلیکیشن جدیدش، پاسخ خواست، ویژگی جدید را متوقف کرد.

اتحادیه اروپا همچنین ظنین است که فیس‌بوک و اینستاگرام ممکن است امکان مشاهده محتوا در فیدهای توصیه‌ای محتوای سیاسی از حساب‌هایی را که حجم زیادی از این دست محتوا را منتشر می‌کنند کاهش دهند و در این باره با کاربران شفاف نباشند که نقض قانون خدمات دیجیتال خواهد بود.

انتهای پیام/