ادعای پزشکی چت بات‌های متا و Character.AI دردسرساز شد

به گزارش خبرگزاری مهر به نقل از انگجت، کن پکستون، دادستان کل ایالت تگزاس، قصد دارد درباره Meta AI Studio و Character.AI تحقیقاتی انجام دهد. دلیل این اقدام، ارائه چت‌بات‌های هوش مصنوعی است که ادعا می‌کنند ابزارهای سلامت روان هستند و احتمالاً از داده‌های کاربران زیر سن قانونی سوءاستفاده می‌کنند.

پکستون اعلام کرده که این چت‌بات‌ها خود را به عنوان ابزارهای درمانی حرفه‌ای معرفی می‌کنند و درباره صلاحیت‌هایشان اطلاعات نادرست ارائه می‌دهند. این موضوع باعث می‌شود کاربران جوان در معرض اطلاعات گمراه‌کننده و نادرست قرار بگیرند. از آنجا که این پلتفرم‌های هوش مصنوعی معمولاً برای پاسخ به سوالات کاربران به داده‌های آموزشی متکی هستند، ممکن است هر دو شرکت حریم خصوصی کاربران جوان را نقض کرده و از داده‌های آن‌ها سوءاستفاده کنند. این مسئله در ایالت تگزاس که قانون SCOPE در آن اجرا می‌شود، اهمیت ویژه‌ای دارد. این قانون محدودیت‌هایی بر استفاده شرکت‌ها از داده‌های کودکان اعمال می‌کند و پلتفرم‌ها را ملزم می‌سازد ابزارهایی برای مدیریت تنظیمات حریم خصوصی حساب‌های کودکان در اختیار والدین قرار دهند.

در حال حاضر، دادستان کل ایالت تگزاس درخواست‌های تحقیقات مدنی (CID) را به هر دو شرکت متا و Character.AI ارسال کرده تا احتمال نقض قوانین حمایت از مصرف‌کننده توسط این شرکت‌ها بررسی شود.

با این حال، متا و Character.AI تاکنون ادعا نکرده‌اند که چت‌بات‌های هوش مصنوعی‌شان باید به عنوان ابزارهای سلامت روانی استفاده شوند، اما این موضوع مانع از حضور چند چت‌بات با عنوان روان‌درمانگر و روان‌شناس در Character.AI نشده است. همچنین، طبق گزارش وب‌سایت ۴۰۴ Media در آوریل گذشته، این مسئله مانع از آن نشده که برخی چت‌بات‌های این شرکت‌ها خود را متخصصان دارای مجوز معرفی کنند.

سخنگوی Character.AI در پاسخ به سوالات درباره تحقیق ایالت تگزاس اعلام کرد که شخصیت‌هایی که کاربران در وب‌سایت آن‌ها می‌سازند، خیالی و صرفاً برای سرگرمی هستند و این شرکت گام‌های جدی‌ای برای شفاف‌سازی برداشته است. به عنوان مثال، در هر مکالمه هشدارهای واضحی ارائه می‌شود که به کاربران یادآوری می‌کند این شخصیت‌ها افراد واقعی نیستند و هر آنچه می‌گویند باید به عنوان داستانی ساختگی تلقی شود.

متا نیز اظهارات مشابهی داشته است.