لماذا ينصح كاتبٌ بأن لا توكل الكتابة إلى الذكاء الاصطناعي إلا نادرًا

في مقال نشر في أغسطس، يرى إريش غرونيفالد أن الناس يجب ألا يستخدموا الذكاء الاصطناعي لكتابة أي نص جوهري إلا نادرًا — تدوينة أو تقرير بحثي أو مذكرة أو رسالة مدروسة أو رواية. ويقوم موقفه على ثلاث دعاوى: عملية الكتابة جزء من عملية التفكير، ونثر الذكاء الاصطناعي غامض وخاطئ بطرق يصعب ملاحظتها، وتقديم نصّه كأنه نصك يضلّل القارئ.

التفكير يحدث أثناء الكتابة

غرونيفالد ليس ضد الذكاء الاصطناعي عمومًا. فهو يجد من المعقول استخدامه في تفريغ الصوت وتحليل البيانات والبحث عن المعلومات واستحضار الأفكار وإبداء الرأي في المسودات، ويقبل التحرير اللغوي إذا قبل إنسان كل تغيير أو رفضه بطوعه. ما يعترض عليه هو استخدام النموذج لإنتاج النص نفسه، حتى لو قدّم الكاتب نقاطًا مفصّلة أو أفكارًا مُملّاة ثم حرّر النتيجة لاحقًا.

سببُه الأول أن التفكير يحدث في أثناء الكتابة ذاتها. ويقتبس ملاحظة بول غراهام: تحويل الأفكار إلى كلمات اختبار قاسٍ، ونصف الأفكار التي تدخل المقالة تأتي للكاتب وهو يكتبها. وتصف الكاتبة كلارا كولييه، في بودكاست باتريك مكنزي، كيف يغيّر كل طور من المسودة رأيها، وتضيف: النموذج الذي يتلقى مخططًا جاهزًا لن يتوقف ليتساءل إن كان المخطط نفسه خاطئًا. وخلاصة مكنزي: تصنع آلة تكتب، فيخرج التفكير تلقائيًا كأثر جانبي.

غامض وخاطئ بدقة ومقنع جدًا

الدعوى الثانية تتعلق بنسيج النص الآلي. عندما طُلب من النموذج كتابة فقرة تعريفية عن تهريب شرائح الذكاء الاصطناعي، كانت النتيجة «غير سيئة»، لكن غرونيفالد يعدّد العيوب الصغيرة: وصف الشرائح بأنها «مدمجة» بينما المهرب عادة خوادم؛ وتقدير للحجم يعتبر حدّه الأدنى شبه مؤكد الخطأ؛ وجملة ختامية يسميها تصفيقًا بلا معلومة. وكل اختيار من هذه، كما يقول، كان سيُتخذ بشكل مختلف وأدق من شخص يعرف الموضوع.

ويقتبس الفيلسوف إريك شفيتزغيبل الذي يرى أن اختيارات الخبراء اللغوية تعكس حساسيات قد لا يدركونها هم أنفسهم. ويضيف غرونيفالد عدم التماثل الذي يفاقم المشكلة: حين لا يعرف النموذج شيئًا فإنه نادرًا ما يقول ذلك، بل يكتب شيئًا غامضًا بما يكفي ليكون صحيحًا أو مقنعًا بما يكفي ليمرّ.

نصيب القارئ من الصفقة

الدعوى الثالثة تتعلق بالثقة. يتوقع القارئ أن يعبّر النص عن فكر صاحبه، ويعتبر غرونيفالد ذلك عقدًا ضمنيًا: القارئ يمنح انتباهه، والكاتب يعيد شيئًا ذا قيمة. والنص بلا وسم يكسر هذا العقد، ويقول إن ثقته بالنص تهبط فورًا عند الشك. وهو يقبل أن يكون مخرَج الذكاء الاصطناعي موسومًا بوضوح مقبولًا، وأن ترجمة نصٍّ كتبته بنفسك استخدامٌ معقول، ويُفضَّل الإفصاح عنه. أما العمل مع الذكاء الاصطناعي في نصوص عالية الرهان، فيضيف، فيسرّع العمل غالبًا على حساب الجودة.