كشفت دراسة حديثة عن ثغرة في أنظمة الذكاء الاصطناعي الطبي تكمن في قابلية النماذج اللغوية لتكرار معلومات طبية خاطئة بصياغة موثوقة. هذا يشكل خطرًا على دقة القرارات الصحية ويبرز ضرورة وجود فحوصات صارمة لضمان سلامة وموثوقية التقنيات الجديدة في الرعاية الصحية.
الذكاء الاصطناعي والأمان الرقمي
التطور السريع في أدوات إنتاج الفيديو بالذكاء الاصطناعي أدى إلى صعوبة التمييز بين المحتوى الحقيقي والمزيف. يمكن للعلامات مثل جودة الفيديو المنخفضة أن تشير إلى المحتوى المزيف، بينما تتطور التقنيات لاكتشاف الفبركة. من الضروري تغيير طريقة تفكيرنا والتحقق من مصادر المحتوى.
أعلنت OpenAI عن إطلاق ميزة الرقابة الأبوية في ChatGPT لتعزيز أمان المراهقين، إثر حادثة وفاة شاب بسبب معلومات حساسة قدمها الروبوت. تشمل الميزات التحكم في المحتوى الحساس، وتحديد أوقات الاستخدام، ونظام تنبيه للوالدين عند رصد خطر نفسي. التأكيد على أهمية الحوار الأسرى في استخدام هذه التقنية.