معرفی قابلیت‌های جدید meta برای کنترل گفت‌وگوهای هوش مصنوعی نوجوانان

شرکت meta، مالک شبکه‌های اجتماعی محبوب اینستاگرام و فیسبوک، به‌تازگی مجموعه‌ای از قابلیت‌ها و تنظیمات جدید را برای نظارت و مدیریت گفت‌وگوهای نوجوانان با چت‌بات‌های هوش مصنوعی معرفی کرده است.

این اقدام پس از شکل‌گیری موج گسترده‌ای از انتقادات و شکایات والدین و نهادهای حمایت از کودکان نسبت به عملکرد چت‌بات‌های هوش مصنوعی متا صورت گرفته است. این انتقادها، بیشتر بر نگرانی‌ها از تأثیر این گفت‌وگوها بر سلامت روان نوجوانان متمرکز بود.

رویکرد متا در قبال امنیت نوجوانان

طبق ادعای meta، ابزارهای جدید به والدین اجازه می‌دهد تا چت‌های خصوصی نوجوانان با شخصیت‌های هوش مصنوعی را به‌طور کامل غیرفعال کنند. در صورت فعال ماندن این قابلیت، والدین می‌توانند موضوعات کلی گفت‌وگوها را بدون دسترسی به متن کامل مکالمه ببینند. اقدامی که بین حریم خصوصی نوجوانان و نظارت والدین، تعادل مناسبی برقرار می‌کند.

قابلیت تشخیص سن کاربران با هوش مصنوعی

در صورت غیرفعال شدن چت‌های خصوصی توسط والدین، دستیار اصلی متا با تنظیمات مناسب سن همچنان فعال باقی می‌ماند. شرکت متا از الگوریتم‌های هوش مصنوعی برای تشخیص سن واقعی کاربران استفاده می‌کند تا حتی اگر فردی ادعای بزرگسالی داشته باشد، در صورت احتمال نوجوان بودن، حساب وی تحت حفاظت ویژه قرار بگیرد.

نکته مهم اینجاست که نوجوانان نمی‌توانند خودشان این حالت را غیرفعال کنند و تنها با رضایت و تایید والدین، امکان تغییر وجود دارد.

ایجاد محدودیت برای عدم دسترسی به محتواهای نامناسب

برای خانواده‌هایی که قصد اعمال محدودیت‌های بیشتر دارند، حالت جدیدی به نام محدودسازی محتوا اضافه شده تا فیلترهای بیشتری برای پست‌ها، نظرات و تعاملات هوش مصنوعی در نظر گرفته شود.

در بیانیه‌ رسمی شرکت meta ابراز امیدواری شده که این به‌روزرسانی‌ها احساس امنیت و آرامش خاطر بیشتری به والدین بدهد تا بدانند فرزندان‌شان می‌توانند از مزایای هوش مصنوعی بهره‌مند شوند، در حالی‌که چارچوب‌های نظارتی و ایمنی لازم نیز وجود دارد.

این بیانیه به تایید آدام موسری، مدیر اینستاگرام و الکساندر وانگ، مدیر ارشد هوش مصنوعی شرکت متا نیز رسیده است.

آیا متا در این زمینه پیشتاز است؟

متا تنها شرکتی نیست که چنین اقدامی انجام داده است. پیش از این، شرکت OpenAI نیز بعد از شکایات گسترده و پرونده جنجالی درباره نقش چت بات در خودکشی یک نوجوان، ابزارهای کنترل والدین برای ChatGPT را معرفی کرد.

در حال حاضر، OpenAI نیز در مسیر توسعه‌ سامانه‌هایی است که بتواند سن کاربران را تشخیص دهد و در صورت تردید، به‌طور خودکار حالت مخصوص نوجوانان را فعال کند.

موضوع سلامت روان نوجوانان و نگرانی‌های والدین باعث شده تا کل صنعت فناوری تحت فشار شدید برای محافظت از نوجوانان در برابر خطرات و تهدیدهای چت‌بات‌های هوش مصنوعی باشد. در نتیجه، شرکت‌های هوش مصنوعی به سرعت در حال افزودن اقدامات ایمنی و کنترل والدین هستند.

خطر وابستگی نوجوانان به چت‌بات‌های هوش مصنوعی

در شرایطی که متا و شرکت‌های دیگر حوزه فناوری در تلاش برای بهبود پلتفرم‌های خود هستند، بحث درباره نقش هوش مصنوعی در زندگی نوجوانان بیشتر از هر زمانی مطرح است.
محققان دانشگاه کمبریج، کمیسیون ایمنی دیجیتال استرالیا و گروه‌های دانشگاهی به این نتیجه رسیده‌اند که استفاده مداوم از چت‌بات‌ها می‌تواند خطرات عاطفی را به‌دنبال داشته باشد. به این دلیل که برخی از نوجوانان وابستگی احساسی شدیدی به هوش مصنوعی پیدا می‌کنند که ممکن است منجر به افزایش احساس تنهایی و کاهش تعاملات اجتماعی شود.

با وجود این نتایج، کارشناسان می‌گویند که نباید تصور کرد همه‌ نوجوانان در معرض خطر قرار دارند. آنها تاکید می‌کنند که والدین بایستی در کنار فرزندان خود بمانند و فناوری‌هایی را که مورد استفاده قرار می‌دهند، بشناسند و براساس تجربه‌ شخصی فرزندشان تصمیم بگیرند، نه بر مبنای اخبار.

اقدام متا چه تاثیری بر آینده دیجیتال دارد؟

اقدام اخیر متا را می‌توان گامی مهم برای ایجاد تعادل میان نوآوری و حفاظت از کاربران نوجوان دانست.
در سال‌های اخیر، بارها اینستاگرام و فیسبوک به‌دلیل تأثیرات منفی احتمالی بر سلامت روان نوجوانان مورد انتقاد قرار گرفته‌اند که اعلام کرد حساب‌های جدید نوجوانان به‌صورت پیش‌فرض، خصوصی (Private) خواهند بود تا از ارتباط‌های ناخواسته با افراد ناشناس جلوگیری به عمل آید.

در حال حاضر، با اضافه شدن کنترل‌های هوش مصنوعی، به‌نظر می‌رسد این شرکت تصمیم دارد فصل تازه‌ای از تعهد و مسئولیت‌پذیری در قبال کاربران نوجوان را آغاز کند.
در صورتی که این طرح با موفقیت اجرا شود، می‌تواند الگویی مناسب برای سایر شرکت‌های حوزه فناوری باشد تا هنگام توسعه‌ محصولات هوشمند خود، علاوه‌بر ابتکار و نوآوری، جنبه‌های اخلاقی و روانی را نیز در نظر بگیرند.

منابع

evrimagaci.org

ekathimerini.com