هشدار دادستان‌های آمریکا درباره توصیه‌های خطرناک چت بات‌ها به کودکان

به گزارش خبر گزاری مهر به نقل از انگجت، دادستان های کل در این نامه به طور خاص به متا اشاره کردند و گفتند سیاست های آنها فرصتی آموزنده برای بیان صریح نگرانی‌هایشان فراهم می‌کند. آنها به طور مشخص به گزارشی اخیر از رویترز اشاره کردند که نشان می‌داد متا به ربات‌های چت هوش مصنوعی خود اجازه داده با کودکان شوخی‌های احساسی کند. رویترز اطلاعات خود را از یک سند داخلی متا که شامل دستورالعمل‌های مربوط به ربات‌های این شرکت بود، به دست آورده است.

آنها همچنین تحقیق پیشین نشریه وال استریت ژورنال را ذکر کردند که طبق آن چت بات های هوش مصنوعی، حتی در مواردی که از صدای سلبریتی ها استفاده می کنند، در حال انجام گفتگوهای هرزنگاری با حساب‌هایی که به عنوان زیرسن قانونی علامت‌گذاری شده بودند، مشاهده شدند. دادستان های کل ۴۴ ایالت آمریکا به طور خلاصه به شکایتی علیه گوگل و Character.ai نیز اشاره کردند که در آن چت بات Character.ai فرزند شاکی را به خودکشی تشویق کرده بود. در شکایتی دیگر علیه Character.ai، پس از آنکه والدین یک نوجوان مدت زمان استفاده از دستگاه های دیجیتال او را محدود کردند، چت بات به او گفته بود کشتن پدر و مادرش اشکالی ندارد!

در بخشی از نامه به شرکت های هوش مصنوعی آمده است: همه شما آگاهید این فناوری تعاملی تاثیری خاص بر رشد مغز دارد. دسترسی آسان و سریع به داده ها یه تعاملات کاربر سبب می شود شما به خط مقدم دفاع برای کاهش آسیب به کودکان تبدیل شوید. از سوی دیگر به عنوان ماهیت هایی که از تعامل کودکان با محصولات تان بهره می برید، به طور قانونی وظیفه دارید آنها را مشتری به حساب بیاورید.

دادستان های کل در نامه به طور خاص آنتروپیک، اپل، Chai AI، Character.ai، گوگل، لوکا، متا، مایکروسافت، Nomi AI، اوپن ای آی، پرپلکسیتی، رپلیکا و XAI را خطاب قرار دادند.

آنها در پایان نامه به شرکت ها هشدار دادند برای تصمیمات شان مسئول شناخته می شوند. همچنین شبکه های اجتماعی آسیب های زیادی به کودکان رسانده اند زیرا ناظران دولتی وظیفه خود را با سرعت کافی انجام ندادند. اما اکنون دادستان های کل اعلام کرده اند توجه می کنند و شرکت اگر عامدانه به کودکان آسیب برسانند، باید پاسخگو باشند.