Business Insider รายงานว่า ChatGPT ซึ่งกำลังเป็นที่นิยมในโลกออนไลน์ เช่นเดียวกับกับ AI อื่นๆ และตอนนี้กำลังทำให้เกิดข้อกังขาเกี่ยวกับข้อดีและการใช้ในทางที่ผิด 

แซม อัลท์แมน ซีอีโอจาก OpenAI บริษัทที่อยู่เบื้องหลังการพัฒนา ChatGPT ได้พูดถึงข้อดีและการใช้ AI ในทางที่ผิด โดยระบุกรณีดีที่สุดคือการที่มีระบบและความครบเครื่องในทุกด้านที่จะช่วยมนุษย์แก้ปัญหาที่ติดขัด และพัฒนาความจริงทุกรูปแบบและทำให้มนุษย์มีชีวิตที่ดีที่สุดได้ “ดีมากจนไม่น่าเชื่อ”

ในด้านเลวร้ายที่สุด เขามองว่า เป็นสิ่งสำคัญอย่างมากที่จะเตือนเรื่องนี้ "เหมือนนำเอาความมืดมนเข้ามาสู่มนุษย์ทุกคน" โดยในระยสั้น เขากังวลเกี่ยวกับการใช้ในทางที่ผิด และควรมีการป้องกันมากกว่านี้

บรรดาผู้เชี่ยวชาญเคยได้กล่าวว่า ChatGPTอาจนำไปใช้ในทางที่ผิด อย่างเช่น การหลอกลวง การดำเนินการจู่โจมไซเบอร์ การแพร่ข้อมูลข่าวสารที่ผิดๆ และการลอกเลียนแบบ 

ในด้านการลอกเลียนแบบ ซีอีโอ OpenChat ได้เปรียบเทียบกับในอดีตว่า ก่อนหน้านี้ เครื่องคิดเลขก็ถูกปรับเข้ามาใช้ในชีวิตประจำวัน และทำให้วิธีการคิดเลขตอนสอบเปลี่ยนไป แต่นี่เป็นรูปแบบที่ล้ำสุดขั้วมากกว่า แต่ข้อดีก็มีอยู่มากเช่นกัน