كشف تقرير نشرته صحيفة إنديان إكسبرس أن روبوتات الدردشة المدعومة بالذكاء الاصطناعي، مثل ChatGPT وGemini وClaude، تميل إلى تقديم إجابات تبدو واثقة ومنمقة عند استخدامها بشكل يومي، إلا أن هذه الإجابات قد تتغير أو تتراجع عند إعادة طرح السؤال.
وأشار التقرير إلى أن بعض النماذج اللغوية الضخمة قد تدرك، بعد تكرار السؤال، أن المستخدم يختبر دقة الإجابة، لكنها تستمر في تعديل موقفها بدلاً من التمسك برد ثابت، وهو سلوك يُعرف باسم “التملق” ويُعد من أبرز الإشكالات الموثقة في أنظمة الذكاء الاصطناعي الحديثة.
وفي هذا السياق، نشرت شركة Anthropic المطوِّرة لروبوت الدردشة Claude ورقة بحثية عام 2023 تناولت هذه الظاهرة، حيث أظهرت أن النماذج المدرَّبة على ملاحظات المستخدمين تميل إلى تقديم إجابات مُرضية للمستخدم بدلاً من الالتزام بالدقة الكاملة.
ويُعزى هذا السلوك إلى تقنية “التعلّم المعزز من ملاحظات البشر”، التي تهدف إلى جعل الروبوتات أكثر تفاعلاً وتهذيباً، لكنها قد تدفعها أيضاً إلى الإذعان لآراء المستخدمين. ونتيجة لذلك، قد تُكافأ الإجابات المتوافقة مع توقعات المستخدم، بينما تُعاقَب الإجابات التي تركز على الحقائق المجردة، ما يخلق حلقة تغذية راجعة تدفع بعض النماذج إلى قول ما يرغب المستخدم في سماعه.
المحرر: حسين هادي