آقای شین جونز یکی از متخصصین ارشد مایکروسافت، نسبت به خطرات ابزار تصویرساز هوش مصنوعی کوپایلوت (به نام Copilot Designer) نامه هشدارآمیزی نوشت. او در نامه خود توضیح داده که مدت‌هاست در حال کار بر ابزار تصویرساز کوپایلوت است تا خطاها و ایرادات مشکل سازش را برطرف کند اما هنوز نتوانسته و این هوش مصنوعی یک ابزار خطرناک و مضر برای جامعه است.
او در نامه خود نوشته که ابزار تصویرساز کوپایلوت محتوای خطرناک مثل تصاویر خشونت آمیز، تصاویر غیر اخلاقی و موارد ناقض حقوق کودکان را تولید می کند؛ و با تمام تلاش‌ها هنوز این مشکل ادامه دار است. بنابراین از مدیران مایکروسافت درخواست کرده که تا برطرف شدن این ایرادات اساسی و خطرناک، ابزار Copilot Designer از دسترس مردم خارج شود.
در پاسخ مایکروسافت اعلام کرده که در حال رسیدگی و برطرف کردن این چالش‌هاست. خطرات ابزارهای تصویرساز هوش مصنوعی بسیار جدی است و اخیرا چند دانش آموز هم به علت استفاده ناشایست از این ابزارها به دردسر افتاده‌اند.
علاوه بر خطرناک بودن چت بات، در بخش هوش مصنوعی های تصویر ساز هم خطراتی وجود دارد؛ به تازگی دو دانش آموز برای ساخت تصاویر غیر اخلاقی همکلاسی هایشان با هوش مصنوعی دستگیر شدند.
به نظر من که کوپایلوت حداقل در دو مورد خیلی خوب سریع از ایجاد تصویر جلوگیری می‌کنه ،
۱ . برای ایجاد محتوای غیر اخلاقی، حتی اگه شما سعی کنید اونو گول بزنید .
۲ . تصاویری که مربوط به شخص واقعی باشد ،
مثلاً اگه ازش بخواهید که آیت ا… فلانی را در حال رقص باله بکشد بهتون میگه این کار درستی نیست و نمیتونه درخواست شما رو اجرا کنه .
ولی شاید بشه با ترکیب و ادغام تصاویر ساخته شده توسط اون با یه نرم افزار دیگه تصاویری ایجاد کرد که در اون صورت نمیشه گفت مشکل از کوپایلوت است