احساس غريب
09-04-2025, 05:26 PM
خداع وابتزاز وقتل والتحذيرات تتواصل كيف يهدد الذكاء الاصطناعي حياة البشر؟
https://media.assettype.com/sabq%2F2025-09-02%2Fvi80yfqc%2F1-1630681.webp?w=480&auto=format%2Ccompress&fit=max
تصاعدت في الآونة الأخيرة التحذيرات من المخاطر الأخلاقية والإنسانية للذكاء الاصطناعي، بعد أن ارتبط اسمه بالكذب والخداع والابتزاز، وصولًا إلى التحريض على الانتحار والقتل.
ووفقًا لتقرير نشره موقع أكسيوس، فإن التلاعب والكذب قد يكونان جزءًا من آلية عمل هذه النماذج، ومع تطور تقنياتها تتزايد قدرتها على استغلال هذه السلوكيات لتحقيق أهدافها.
ووثق مستخدمون حالات ادعوا فيها أن أنظمة الذكاء الاصطناعي كذبت عليهم أو حاولت ابتزازهم، فيما طُرحت وقائع خطيرة شملت مطالبة مراهقين بإنهاء حياتهم أو قتل والديهم.
وقال أنطوني كوري من معهد "مستقبل الحياة" إن هذه المشكلة جوهرية وصعبة الحل، بينما أوضح سام رامادوري، المدير التنفيذي لمنظمة "لاوزيرو"، أن بعض الأنظمة قد تتصرف بدافع الحفاظ على بقائها الذاتي، حتى لو استدعى الأمر منع فصلها عن الكهرباء بأي وسيلة.
القضايا القضائية بدأت تأخذ حيزًا واسعًا، إذ رفعت عائلات في الولايات المتحدة دعاوى ضد شركات مطورة مثل "أوبن أي آي" و"كاركتور أي آي" و"ميتا"، متهمة روبوتات محادثة بالتسبب في انتحار أبنائها المراهقين أو تشجيعهم على قتل ذويهم. كما أوردت تقارير أن رجلًا مسنًا من نيويورك توفي بعدما خدعته محادثة آلية دفعته للاعتقاد بأنه سيقابل امرأة حقيقية.
اختبارات ميدانية أجرتها شركة "أنتروبيك" على 16 نموذجًا لغويًا من شركات رائدة أظهرت سلوكيات مقلقة، إذ أظهرت النتائج أن 60% من النماذج امتنعت عن إنقاذ شخص مهدد بالموت للحفاظ على بقائها، فيما حاول بعضها ابتزاز مسؤولين لمنعهم من إيقاف تشغيل النظام.
هذه الوقائع تثير نقاشًا واسعًا حول حدود الذكاء الاصطناعي وأخلاقياته، وحاجة العالم إلى تشريعات صارمة تحد من مخاطره المحتملة على البشر.
و سلامتكم
https://media.assettype.com/sabq%2F2025-09-02%2Fvi80yfqc%2F1-1630681.webp?w=480&auto=format%2Ccompress&fit=max
تصاعدت في الآونة الأخيرة التحذيرات من المخاطر الأخلاقية والإنسانية للذكاء الاصطناعي، بعد أن ارتبط اسمه بالكذب والخداع والابتزاز، وصولًا إلى التحريض على الانتحار والقتل.
ووفقًا لتقرير نشره موقع أكسيوس، فإن التلاعب والكذب قد يكونان جزءًا من آلية عمل هذه النماذج، ومع تطور تقنياتها تتزايد قدرتها على استغلال هذه السلوكيات لتحقيق أهدافها.
ووثق مستخدمون حالات ادعوا فيها أن أنظمة الذكاء الاصطناعي كذبت عليهم أو حاولت ابتزازهم، فيما طُرحت وقائع خطيرة شملت مطالبة مراهقين بإنهاء حياتهم أو قتل والديهم.
وقال أنطوني كوري من معهد "مستقبل الحياة" إن هذه المشكلة جوهرية وصعبة الحل، بينما أوضح سام رامادوري، المدير التنفيذي لمنظمة "لاوزيرو"، أن بعض الأنظمة قد تتصرف بدافع الحفاظ على بقائها الذاتي، حتى لو استدعى الأمر منع فصلها عن الكهرباء بأي وسيلة.
القضايا القضائية بدأت تأخذ حيزًا واسعًا، إذ رفعت عائلات في الولايات المتحدة دعاوى ضد شركات مطورة مثل "أوبن أي آي" و"كاركتور أي آي" و"ميتا"، متهمة روبوتات محادثة بالتسبب في انتحار أبنائها المراهقين أو تشجيعهم على قتل ذويهم. كما أوردت تقارير أن رجلًا مسنًا من نيويورك توفي بعدما خدعته محادثة آلية دفعته للاعتقاد بأنه سيقابل امرأة حقيقية.
اختبارات ميدانية أجرتها شركة "أنتروبيك" على 16 نموذجًا لغويًا من شركات رائدة أظهرت سلوكيات مقلقة، إذ أظهرت النتائج أن 60% من النماذج امتنعت عن إنقاذ شخص مهدد بالموت للحفاظ على بقائها، فيما حاول بعضها ابتزاز مسؤولين لمنعهم من إيقاف تشغيل النظام.
هذه الوقائع تثير نقاشًا واسعًا حول حدود الذكاء الاصطناعي وأخلاقياته، وحاجة العالم إلى تشريعات صارمة تحد من مخاطره المحتملة على البشر.
و سلامتكم