شرکت متا آزمایش قابلیت تماس صوتی دستیار هوش مصنوعی جدید خود با نام میوز (Muse)را پس از افشای نقش پنهان اپراتورهای انسانی متوقف کرده است.
گزارش‌های منتشرشده نشان می‌دهد این سیستم که قرار بود وظایفی مانند رزرو رستوران را به‌طور خودکار انجام دهد، در برخی موارد تماس‌های خروجی را بدون اطلاع کاربران به مراکز تماس انسانی منتقل می‌کرد. این موضوع نگرانی‌هایی درباره حریم خصوصی کاربران و میزان استقلال واقعی این فناوری ایجاد کرده است.
قابلیت تماس خروجی میوز در اواسط سپتامبر توسط رایان فاکس (Ryan Fox)، مهندس ارشد بخش سوپر اینتلجنس لبز متا، معرفی شد و هدف آن پاسخ به درخواست‌هایی بود که کاربران معمولاً برای انجام آن‌ها به تماس تلفنی نیاز داشتند. با این حال، بر اساس اسناد داخلی متا که رسانه‌های رویترز و مدیا 404 به آن‌ها دسترسی پیدا کرده‌اند، این شرکت برای تکمیل برخی تماس‌ها یک لایه عامل انسانی در نظر گرفته بود. در این اسناد، این فرایند به‌صراحت با عنوان تماس‌های عامل انسانی میوز دسته‌بندی شده است.
این رویکرد حتی پیش از انتشار گزارش‌های رسانه‌ای با اعتراض برخی کارکنان متا روبه‌رو شده بود. بر اساس پیام‌های داخلی، تعدادی از کارکنان هشدار داده بودند که پنهان‌کردن نقش انسان‌ها در این فرایند، علاوه بر ایجاد مشکل برای اعتبار محصول، می‌تواند خطرات امنیتی و حریم خصوصی به همراه داشته باشد.
نگرانی اصلی این بود که در صورت بروز خطا یا انتقال ناخواسته اطلاعات، داده‌های حساسی مانند موقعیت مکانی، شماره تلفن، اطلاعات پزشکی یا داده‌های بانکی ممکن است در اختیار اپراتورهای مراکز تماس قرار بگیرد.
این مسئله زمانی حساس‌تر می‌شود که کاربر تصور کند تمام مکالمه را با یک سیستم هوش مصنوعی انجام می‌دهد و از حضور یک انسان در طرف دیگر تماس اطلاعی ندارد.
با این حال، سابقه متا در زمینه حریم خصوصی باعث شده این اتفاق حساسیت بیشتری ایجاد کند. این شرکت در سال ۲۰۱۹ تأیید کرده بود که پیمانکاران انسانی برای بررسی و رونویسی بخشی از مکالمات صوتی کاربران Messenger به کار گرفته شده‌اند. به همین دلیل، استفاده از اپراتورهای انسانی در میوزبدون اطلاع شفاف کاربران، نگرانی‌های قدیمی درباره نحوه مدیریت داده‌های صوتی در محصولات متا را دوباره مطرح کرده است.
پس از انتشار گزارش‌ها، یکی از معاونان بخش سوپر اینتلجنس لبز متا پذیرفت که آغاز این آزمایش بدون شفاف‌سازی درباره نقش پیمانکاران انسانی تصمیم درستی نبوده است. در ادامه، متا آزمایش قابلیت تماس صوتی میوز را موقتاً متوقف کرد.
این شرکت تاکنون توضیح رسمی بیشتری درباره نحوه دسترسی اپراتورها به اطلاعات کاربران یا برنامه خود برای ادامه آزمایش ارائه نکرده است.
ماجرای Muse در نهایت یک مشکل مهم‌تر در توسعه دستیارهای هوش مصنوعی را نشان می‌دهد. هرچه این سیستم‌ها وظایف بیشتری را به نمایندگی از کاربران انجام دهند، مرز میان خودکار بودن و پشتیبانی انسانی اهمیت بیشتری پیدا می‌کند.
در چنین شرایطی، حتی اگر حضور انسان برای تکمیل یک تماس ضروری باشد، اطلاع‌دادن به کاربر درباره این موضوع و مشخص‌کردن اینکه چه اطلاعاتی در اختیار اپراتور قرار می‌گیرد، به بخش مهمی از طراحی چنین سرویس‌هایی تبدیل می‌شود.
