OpenAI แบนบัญชีผู้ใช้จากจีน หลังพบใช้ ChatGPT พัฒนาโค้ดเครื่องมือสอดส่องโซเชียลมีเดีย

OpenAI ได้ดำเนินการแบนกลุ่มผู้ใช้งานจากจีนที่ใช้ ChatGPT เพื่อพัฒนาและปรับปรุงโค้ดสำหรับเครื่องมือสอดส่องโซเชียลมีเดียที่ขับเคลื่อนด้วย AI โดยโครงการนี้ที่ OpenAI เรียกว่า Peer Review ได้ใช้ ChatGPT ในการสร้างข้อความเสนอขายโปรแกรมที่ออกแบบมาเพื่อติดตามความคิดเห็นต่อต้านจีนบนแพลตฟอร์มต่างๆ ทั้ง X, Facebook, YouTube, Instagram และอื่นๆ โดยมีจุดประสงค์หลักเพื่อระบุการเรียกร้องให้มีการประท้วงเกี่ยวกับการละเมิดสิทธิมนุษยชนในจีน และส่งข้อมูลเหล่านี้ให้กับทางการจีน

บัญชีที่เกี่ยวข้องกับการดำเนินการนี้มีการใช้งานในช่วงเวลาทำการของจีนแผ่นดินใหญ่ ใช้คำสั่งภาษาจีน และมีการโต้ตอบกับ ChatGPT ในลักษณะที่เป็นการป้อนข้อมูลด้วยมือมากกว่าระบบอัตโนมัติ ผู้ใช้งานไม่เพียงใช้ ChatGPT ในการพัฒนาเครื่องมือสอดส่องเท่านั้น แต่ยังใช้ตรวจทานข้อความที่อ้างว่าได้ส่งข้อมูลให้กับสถานทูตจีนในต่างประเทศและเจ้าหน้าที่ข่าวกรองที่ติดตามการประท้วงในประเทศต่างๆ เช่น สหรัฐอเมริกา เยอรมนี และสหราชอาณาจักร นอกจากนี้ กลุ่มนี้ยังใช้ ChatGPT ในการสร้างรายงานผลการดำเนินงานประจำปี ซึ่งมีการอ้างว่าได้เขียนอีเมลฟิชชิ่งในนามของลูกค้าในจีน

โค้ดส่วนใหญ่ของเครื่องมือสอดส่องนี้พัฒนาจากโมเดล Llama แบบโอเพนซอร์สของ Meta โดย Ben Nimmo หัวหน้านักสืบของบริษัทระบุว่า นี่เป็นครั้งแรกที่ OpenAI ค้นพบเครื่องมือ AI ในลักษณะนี้ และสังเกตว่าผู้ไม่หวังดีมักเผยให้เห็นกิจกรรมของตนเองโดยไม่ตั้งใจผ่านการใช้งานโมเดล AI การตอบสนองของ OpenAI ต่อเหตุการณ์นี้แสดงให้เห็นถึงความพยายามของบริษัทในการป้องกันการใช้เครื่องมือ AI ในทางที่ผิด

การแบนบัญชีเหล่านี้สะท้อนให้เห็นถึงความมุ่งมั่นของ OpenAI ในการป้องกันไม่ให้เครื่องมือของตนถูกนำไปใช้ในทางที่เป็นอันตราย อย่างไรก็ตาม กรณีนี้ยังก่อให้เกิดคำถามที่กว้างขึ้นเกี่ยวกับการใช้ AI ในทางที่ผิดเพื่อการสอดส่อง และความจำเป็นในการเฝ้าระวังอย่างต่อเนื่องในการตรวจสอบการใช้งานเครื่องมือ AI การประเมินผลกระทบทั้งหมดของกิจกรรมนี้จำเป็นต้องได้รับข้อมูลจากผู้มีส่วนได้ส่วนเสียหลายฝ่าย รวมถึงผู้ดูแลโมเดลโอเพนซอร์ส เพื่อเปิดเผยกิจกรรมที่คล้ายคลึงกัน

ที่มา: Engadget