مایکروسافت برخی از عباراتی را مسدود کرده است که می‌توانستند در | عصر گویش | هوش مصنوعی

مایکروسافت برخی از عباراتی را مسدود کرده است که می‌توانستند در ابزار کوپایلت دیزاینر به تولید محتوای نامناسب منجر شوند.

مایکروسافت در حال تلاش برای رفع مشکلی در ابزار هوش مصنوعی کوپایلت دیزاینر است که جزئیاتش را شین جونز، یکی از مهندسان شرکت، فاش کرد.

جونز در بررسی امنیت ابزار کوپایلت دیزاینر متوجه شد که این سرویس می‌تواند برای تولید عکس‌هایی با محتوای ناخوشایند استفاده شود.

منظور از محتوای نامناسب، صحنه‌های خشونت‌آمیز، تصاویر جنسی‌ و محتوای تبعیض‌آمیز در موضوعات حساس است. پیش‌از‌این نیز مشخص شده بود که کوپایلت دیزاینر کپی‌رایت را نادیده گرفته و تصاویری از شخصیت‌های دیزنی را در موقعیت‌های نامناسبی تولید کرده است.

کوپایلت دیزاینر ابزار هوش مصنوعی مایکروسافت برای تولید عکس از درخواست‌های متنی است که از مدل‌های توسعه داده‌شده در OpenAI قدرت می‌گیرد و عملکردی شبیه به DALL-E دارد.مایکروسافت اکنون اقدامات اولیه را انجام داده و برخی از درخواست‌ها را مسدود کرده و در حال ارتقای فیلترهای ایمنی است.

مجله هوش مصنوعی عصر گویش:  تلگرام | بله
@asrgooyeshpardaz