المقالات التي تكتبها خوارزميات الذكاء الاصطناعي، قد يمكن استخدامها لخداع البشر، فيتم تقديم نص عن موضوع معين، على أنه حقائق علمية، وهي فعلياً لا أساس لها من الصحة، ولهذا الأمر عواقب كثيرة، كأن يبني البعض، على مثل تلك المقالات، قراراتهم أو اختياراتهم، ولذا وبحسب جمعية المكتبات الأمريكية (American Library Association) فإن الخداع باستخدام التوليد الآلي للنصوص، أصبح ظاهرة يلزم الالتفات لها.
كتابة المقالات بشكل عام، لها عدد من الضوابط، فيما يتعلق باستخدام التعابير والمفردات، وكذلك التراكيب اللغوية، ولكن الناظر عن كثب، لظاهرة الاستخدام السلبي، لخوارزميات التوليد الآلي للنصوص، يجد أنه يتم تصميم تلك الخوارزميات، بشكل يركز على التضليل، فالخوارزميات التي تهدف إلى خداع القارئ، تركز على خواص لغوية تستخدم في الغالب للتمويه والإيهام، أو التضخيم والتهويل، وغيرها من الخواص اللغوية، التي تستخدم لتغيير وجهة نظر القارئ، غير أن هذه الخواص، وإن كانت قدمت لخوارزميات الذكاء الاصطناعي السلاح، لإيهام المتلقي، إلا أن ذات السلاح، هو ما ساهم في اكتشاف خداع مثل تلك الخوارزميات.
فقد وجد فريق بحثي من جامعة بنسيلفينيا (University of Pennsylvania) وشركة جوجل (Google) أن النص المولد تلقائيا للتضليل على القارئ، له خواص تميزه عن غيره من النصوص، بل إن تلك الخواص تميزه عن النص المكتوب بواسطة البشر، حتى وإن كان النص المكتوب، بواسطة البشر، الهدف منه الخداع أيضاً.
يذكر، أنه وإن كانت هذه الخواص، ليس بالسهل للقارئ اكتشافها، إلا أن الكمبيوتر يجد من السهولة التعرف عليها، فقد قام الفريق البحثي، بتطوير خوارزمية ذكاء اصطناعي مضادة، لتلك التي تقوم بالتوليد الآلي لمقالات التضليل، والتي وبتحليل التراكيب اللغوية لتلك المقالات، تمكنت من اكتشاف المقالات المزيفة بدقة عالية، بل إن النظام الذي يقوم على اكتشاف المقالات المزيفة، تزداد دقته كلما زادت درجة الخداع في تلك المقالات.