توقف قابلیت هوش مصنوعی گوگل ارث پس از تولید تصاویر جعلی از مناطق حساس

به گزارش خبرگزاری صداوسیما و به نقل از انگجت، این قابلیت جدید به کاربران اجازه می‌داد تا با استفاده از دستور‌های متنی، نمایی جدید از نقاط مختلف جهان ایجاد کنند. اما بلافاصله پس از عرضه، تصاویری ساختگی از رویداد‌هایی نظیر انفجار در نزدیکی بیمارستانی در غزه، نیروگاه هسته‌ای در ایران و اردوگاه‌های پناهجویان در مرز آمریکا و مکزیک تولید و در شبکه‌های اجتماعی منتشر شد.

گوگل اعلام کرد: اگرچه تصاویر تولیدشده دارای واترمارک (نشانه) هوش مصنوعی بودند و در نسخه عمومی نمایش داده نمی‌شدند، اما کاربران از طریق ثبت اسکرین‌شات، این تصاویر را در فضای مجازی پخش کردند.

این شرکت اعلام کرده است: قابلیت مذکور را به صورت موقت غیرفعال می‌کند تا سازوکار‌های ایمنی و محدودیت‌های سخت‌گیرانه‌تری را برای جلوگیری از سوءاستفاده طراحی کند. این اقدام که یکی از سریع‌ترین عقب‌نشینی‌های گوگل در سال‌های اخیر است، بار دیگر چالش شرکت‌های فناوری در ایجاد تعادل میان نوآوری و جلوگیری از تولید محتوای جعلی را به چالش کشیده است.