تمكنت خوارزميات الذكاء الاصطناعي، في الآونة الأخيرة، من القيام بالكتابة الآلية للنصوص، بحيث يمكن للخوارزميات، أن تقوم بالتوليد الآلي لعدد من الجمل، فتصنع مقالة كاملة، تدور حول موضوع واحد، وقد بلغت دقة هذه الخوارزميات مستوى يضاهي مستوى البشر في الكتابة، وبحسب ما نشر عدد من المراكز البحثية، كجامعة واشنطن (University of Washington) ومعهد آلان للذكاء الاصطناعي (Allen Institute for Artificial Intelligence) فإن تلك الخوارزميات، بلغت دقتها درجة أصبح فيها من الصعب التفريق بين النص المكتوب بواسطة خوارزميات الذكاء الاصطناعي، والنص المكتوب بواسطة البشر.

المقالات التي تكتبها خوارزميات الذكاء الاصطناعي، قد يمكن استخدامها لخداع البشر، فيتم تقديم نص عن موضوع معين، على أنه حقائق علمية، وهي فعلياً لا أساس لها من الصحة، ولهذا الأمر عواقب كثيرة، كأن يبني البعض، على مثل تلك المقالات، قراراتهم أو اختياراتهم، ولذا وبحسب جمعية المكتبات الأمريكية (American Library Association) فإن الخداع باستخدام التوليد الآلي للنصوص، أصبح ظاهرة يلزم الالتفات لها.

كتابة المقالات بشكل عام، لها عدد من الضوابط، فيما يتعلق باستخدام التعابير والمفردات، وكذلك التراكيب اللغوية، ولكن الناظر عن كثب، لظاهرة الاستخدام السلبي، لخوارزميات التوليد الآلي للنصوص، يجد أنه يتم تصميم تلك الخوارزميات، بشكل يركز على التضليل، فالخوارزميات التي تهدف إلى خداع القارئ، تركز على خواص لغوية تستخدم في الغالب للتمويه والإيهام، أو التضخيم والتهويل، وغيرها من الخواص اللغوية، التي تستخدم لتغيير وجهة نظر القارئ، غير أن هذه الخواص، وإن كانت قدمت لخوارزميات الذكاء الاصطناعي السلاح، لإيهام المتلقي، إلا أن ذات السلاح، هو ما ساهم في اكتشاف خداع مثل تلك الخوارزميات.

فقد وجد فريق بحثي من جامعة بنسيلفينيا (University of Pennsylvania) وشركة جوجل (Google) أن النص المولد تلقائيا للتضليل على القارئ، له خواص تميزه عن غيره من النصوص، بل إن تلك الخواص تميزه عن النص المكتوب بواسطة البشر، حتى وإن كان النص المكتوب، بواسطة البشر، الهدف منه الخداع أيضاً.

يذكر، أنه وإن كانت هذه الخواص، ليس بالسهل للقارئ اكتشافها، إلا أن الكمبيوتر يجد من السهولة التعرف عليها، فقد قام الفريق البحثي، بتطوير خوارزمية ذكاء اصطناعي مضادة، لتلك التي تقوم بالتوليد الآلي لمقالات التضليل، والتي وبتحليل التراكيب اللغوية لتلك المقالات، تمكنت من اكتشاف المقالات المزيفة بدقة عالية، بل إن النظام الذي يقوم على اكتشاف المقالات المزيفة، تزداد دقته كلما زادت درجة الخداع في تلك المقالات.