قابلیت‌های جدید هوش مصنوعی در ویندوز ۱۱ می‌توانند دردسرساز شوند
درحالی‌که هوش مصنوعی روزبه‌روز نقش پررنگ‌تری در زندگی دیجیتال ما پیدا می‌کند، مایکروسافت اخیرا درباره قابلیت‌های جدیدی در ویندوز 11 هشدار داده است که می‌توانند خطرناک باشند. این قابلیت‌ها که تحت عنوان عامل‌های هوشمند (Agentic AI) شناخته می‌شوند، به‌زودی به ویندوز اضافه می‌شوند و امکان دسترسی به فایل‌های شخصی و اجرای وظایف به‌جای کاربر را فراهم می‌کنند.
مایکروسافت اعلام کرد که این عامل‌ها می‌توانند در معرض حملات امنیتی قرار بگیرند. رسانه ویندوز سنترال گزارش داد که یکی از خطرات جدی، حمله‌ای به نام Cross-Prompt Injection (یا XPIA) است؛ حالتی که محتوای مخرب تعبیه‌شده در رابط کاربری یا اسناد می‌تواند دستورهای عامل هوش مصنوعی را تغییر دهد و منجربه اقدامات ناخواسته‌ای مانند استخراج داده‌ها یا نصب بدافزار شود.
مایکروسافت در بیانیه خود توضیح داد: «مدل‌های هوش مصنوعی هنوز محدودیت‌های عملکردی دارند و گاهی می‌توانند دچار خطا یا تولید خروجی‌های غیرمنتظره شوند. برنامه‌های عامل‌محور نیز خطرات امنیتی جدیدی را ایجاد می‌کنند.» این ویژگی‌ها درحال‌حاضر به‌صورت پیش‌فرض خاموش است و تنها در صورت فعال‌سازی دستی توسط کاربر قابل استفاده خواهند بود. بااین‌حال احتمال دارد که در آینده به‌صورت پیش‌فرض فعال شوند که این موضوع نگرانی‌های امنیتی را افزایش می‌دهد.
در عصری که هوش مصنوعی می‌تواند تقریبا هر کاری را در کمترین زمان انجام دهد، پرسش اصلی این است که آیا باید چنین اختیاری را به این فناوری داد؟ هوش مصنوعی با وجود پیشرفت‌های چشم‌گیر هنوز در مراحل ابتدایی توسعه قرار دارد و می‌تواند اشتباهاتی مرتکب شود؛ ازجمله توهین‌های نژادپرستانه چت‌بات‌ها در فورتنایت یا آسیب‌های ناخواسته‌ای که به سیستم‌ها وارد می‌شود.