رهبران هوش مصنوعی برای حفاظت از كودكان متعهد شدند

رهبران هوش مصنوعی برای حفاظت از كودكان متعهد شدندهوش مصنوعیفناوریچهارشنبه ۵ اردیبهشت ۱۴۰۳ - ۱۲:۳۰مطالعه 2 دقیقهمجتبی بوالحسنیتبلیغاتتبلیغاتتبلیغاتبزرگان صنعت هوش مصنوعی متعهد شدند با هدف محافظت از كودكان در فضای آنلاین، جلوی سوءاستفاده از ابزارهای خود را بگیرند .

تبلیغاتشركت‌های پیشرو در حوزه‌ی هوش مصنوعی، ازجمله OpenAI، مایكروسافت، گوگل و متا متعهد شده‌اند جلوی استفاده از ابزارهای هوش مصنوعی خود را برای استثمار و تولید محتوای سوءاستفاده‌ی جنسی از كودكان (CSAM) بگیرند .

بنیاد Thorn و سازمان All Tech Is Human گزارشی با عنوان «طرحی برای ایمنی هوش مصنوعی مولد: پیشگیری از سؤاستفاده‌ی جنسی از كودكان» منتشر كرده‌اند كه در آن برای محافظت از كودكان در فضای آنلاین، راهبردها و توصیه‌هایی به شركت‌های سازنده‌ی ابزارهای هوش مصنوعی، موتورهای جست‌وجو، شبكه‌های اجتماعی، شركت‌های هاستینگ و توسعه‌دهندگان ارائه می‌شود .

گزارش Thorn شامل چند بخش می‌شود. اولین مورد، ارزیابی و كاهش خطرات است؛‌ جایی‌كه شركت‌ها باید خطرات بالقوه‌ی مرتبط با ابزارهای هوش مصنوعی مولد را ارزیابی كنند و آن‌ها را كاهش دهند.مورد دوم در گزارش Thorn، شفافیت و پاسخگویی است .

شركت‌ها باید درمورد نحوه‌ی عملكرد ابزارهای هوش مصنوعی مولد خود شفاف و پاسخگو باشند. این یعنی شركت‌ها ملزم به ارائه‌ی اطلاعات واضح در مورد قابلیت‌ها و محدودیت‌های ابزارهای هوش مصنوعی و ایجاد فرایندهایی برای رسیدگی به شكایات و ارائه‌ی امكان كنترل نحوه‌ی استفاده از داده‌های شخصی كاربران می‌شوند .

موضوع دیگر در گزارش Thorn، همكاری با ذی‌نفعان است. این یعنی شركت‌ها برای توسعه و اجرای راهبردهای ایمنی هوش مصنوعی مولد، باید با ذی‌نفعان مختلف ازجمله سازمان‌های غیردولتی، كارشناسان كودك و مقامات دولتی همكاری كنند .

مقالات مرتبط:ظهور كرم‌های هوش مصنوعی؛ تهدید امنیتی جدید اینترنتكوچك‌ترین مدل هوش مصنوعی مایكروسافت رونمایی شدچهارمین نكته در گزارش، به تحقیق و توسعه ارتباط دارد. شركت‌ها باید به تحقیق و توسعه برای كشف روش‌های جدید ایمن‌سازی هوش مصنوعی مولد ادامه دهند .

این مورد شامل توسعه‌ی تكنیك‌های جدید برای شناسایی و حذف محتوای مضر و ایجاد ابزارهای آموزشی جدید برای كاربران می‌شود.درنهایت Thorn به موضوع توانمندسازی كاربران پرداخته است. شركت‌ها باید كاربران را با روش استفاده‌ی ایمن و مسئولانه از ابزارهای هوش مصنوعی مولد كاملاً آشنا كنند .

منبع : https://www.zoomit.ir/ai-articles/420074-leading-ai-companies-protect-safety-children/