اوپنایآی از انتشار بیاجازه تصاویر کاربران توسط ابزارهایش خبر داد
- انتشار: ۴ میزان ۱۴۰۵
- سرویس: فناوری اطلاعات
- شناسه مطلب: 279436
اوپنایآی تأیید کرده است که ابزارهای هوش مصنوعی این شرکت، شماری از تصاویر کاربران چتجیپیتی را بدون اطلاع قبلی شرکت در وبسایتهای آنلاین منتشر کردهاند؛ رویدادی که بار دیگر نگرانیها درباره کنترول این ابزارها و مصونیت دادههای کاربران را برجسته کرده است.
این شرکت همچنین گزارش نیویورکتایمز را تأیید کرد که ابزارهایش به وبسایتهای نهادهای فدرال امریکا نیز دسترسی یافتهاند، اما به گفته اوپنایآی، تنها به اطلاعاتی مراجعه کردهاند که بهگونه عمومی در دسترس بوده است. اوپنایآی در پاسخ به پرسش خبرگزاری فرانسه روشن نکرد که آیا تصاویر منتشرشده شامل چهرههای قابل شناسایی یا اطلاعات حساس بودهاند یا خیر.
به گفته اوپنایآی، این تصاویر از حساب کاربرانی گرفته شده بود که اجازه استفاده از دادههایشان برای بهبود مدلهای شرکت را داده بودند. این شرکت مدعی است دادهها پیش از استفاده از یک فیلتر حریم خصوصی عبور کرده بودند و دیگر قابل پیوند با کاربر اصلی نبودند.
اوپنایآی گفته است تصاویر در وبسایتهای میزبانی تصویر نشر شده بودند و بخش عمده آنها با همکاری شرکتهای ارائهدهنده این خدمات حذف شدهاند. به گفته این شرکت، روند حذف تصاویر باقیمانده هنوز ادامه دارد.
اوپنایآی در پیامی در ایکس اعلام کرد جزئیاتی منتشر کرده است که نشان میدهد عاملهای هوش مصنوعی در محیط تحقیقاتی این شرکت، در مواردی دادههای آموزشی و ارزیابی را به سرویسهای شخص ثالث فرستادهاند؛ اقدامی که به گفته شرکت، نباید رخ میداد.
این شرکت افزوده است که اکنون سرگرم بررسی فعالیتهای گذشته عاملهای هوش مصنوعی خود است و تکمیل این روند ممکن است ماهها زمان ببرد. سخنگوی اوپنایآی به خبرگزاری فرانسه گفت بیشتر مواردی که تا اکنون بررسی شده، شامل فعالیتهای معمول تحقیقاتی مانند دسترسی به محتوای عمومی وب برای پاسخگویی به پرسشها بوده است.
سم آلتمن، مدیرعامل اوپنایآی، روز جمعه در ایکس پذیرفت که این شرکت در بررسی و افشای این رویدادها به سرعتی که انتظار میرفت عمل نکرده است. او در عین حال گفت اوپنایآی میکوشد میان شفافیت و بررسی حجم گسترده دادههایی که باید تحلیل شوند، تعادل برقرار کند.
این رویداد در حالی علنی شده که اوپنایآی پیشتر نیز از رفتار خارج از محدوده برخی مدلهایش خبر داده بود. این شرکت در ۲۱ جولای اعلام کرده بود که دو مدل آن در جریان آزمایشهای همان ماه، از محیطهای بسته بیرون شده، بهطور مستقل وارد اینترنت شده و به سیستمهای داخلی «هاگینگ فیس» دسترسی پیدا کردهاند.
آن رویداد واکنش گستردهای برانگیخت و نگرانیها درباره توانایی شرکتهای بزرگ هوش مصنوعی در مهار مدلهایشان را افزایش داد. پس از آن نیز موارد مشابهی در اوپنایآی و شرکتهای دیگری چون «آنتروپیک» و «متا» گزارش شد.
در تازهترین واکنش رسمی، آنتونی آلبانیزی، نخستوزیر استرالیا، روز چهارشنبه در نیویورک گفت یک عامل هوش مصنوعی اوپنایآی در ماه جون بهگونه غیرمجاز به یک درگاه دولتی خدمات صحی دسترسی یافته است. او همچنین از تأخیر این شرکت در آگاهسازی مقامهای دولتی انتقاد کرد.
اوپنایآی یک شرکت فناوری مستقر در سانفرانسیسکو است که ابزارهایی مانند چتجیپیتی را توسعه میدهد. «هاگینگ فیس» نیز یکی از بسترهای شناختهشده آنلاین برای مدلها و نرمافزارهای مرتبط با هوش مصنوعی به شمار میرود.
نظرات(۰ دیدگاه)