Google DeepMind เปิดตัวเครื่องมือลายน้ำแบบโอเพ่นซอร์สเพื่อช่วยตรวจสอบข้อความที่สร้างขึ้นด้วย AI

Google DeepMind ได้เปิดตัวเครื่องมือสร้างลายน้ำที่เป็นโอเพนซอร์สชื่อ SynthID-Text ในวันพุธนี้ เพื่อช่วยตรวจสอบข้อความที่สร้างโดย AI ซึ่งเครื่องมือนี้สามารถใช้งานได้ฟรีสำหรับธุรกิจและนักพัฒนาซอฟต์แวร์ โดยทำงานโดยการฝังลายน้ำที่มองไม่เห็น—จนมนุษย์ไม่สามารถตรวจสอบได้—ลงในข้อความระหว่างการสร้าง โดยการปรับโอกาสการปรากฏของคำ.”ที่นี่เราอธิบายเกี่ยวกับ SynthID-Text ซึ่งเป็นแผนการทำลายน้ำข้อความที่พร้อมสำหรับการผลิต ที่สามารถรักษาคุณภาพข้อความและเปิดโอกาสในการตรวจจับที่มีความแม่นยำสูง พร้อมภาระความล่าช้าที่ไม่มาก” สรุปสาระของผลงานวิจัยที่เผยแพร่ใน Nature กล่าวไว้ “เพื่อให้สามารถทำลายน้ำระดับขนาดใหญ่ เราได้พัฒนาอัลกอริทึมที่รวมการทำลายน้ำด้วยการสุ่มแบบคาดการณ์ ซึ่งเป็นเทคนิคเพื่อปรับปรุงประสิทธิภาพที่ใช้บ่อยในระบบการผลิต”

ตามที่ MIT Technology Review รายงานว่า ห้องปฏิบัติการวิจัย AI ของบริษัทยักษ์ใหญ่ด้านเทคโนโลยีได้พัฒนาเทคโนโลยี SynthID เพื่อสร้างเครื่องมือลายน้ำ AI หลายตัวที่ตอนนี้สามารถรู้จำข้อความ, ดนตรี, วิดีโอ, และภาพที่สร้างขึ้นจาก AI ได้ Google DeepMind ได้แชร์วิดีโอที่อธิบายวิธีการทำงานของเทคโนโลยีนี้ในหลายประเภทของสื่อ

Here’s how SynthID watermarks AI-generated content across modalities. ↓ pic.twitter.com/CVxgP3bnt2

— Google DeepMind (@GoogleDeepMind) 23 ตุลาคม 2024

SynthID มีให้บริการผ่านชุดเครื่องมือ AI ที่สร้างขึ้นอย่างรับผิดชอบของ Google และนักวิจัยกำลังทำงานร่วมกับ Hugging Face—แพลตฟอร์มที่สนับสนุนการทำงานร่วมกันสำหรับนักพัฒนาซอฟต์แวร์ที่เป็นโฮสต์สำหรับโปรเจคที่เปิดให้ใช้งานโดยทั่วไป เช่น แนวทางการสร้างหุ่นยนต์ที่มีการขับเคลื่อนด้วย AI ที่บ้านของ LeRobot—เพื่อแบ่งปันในเว็บไซต์ของพวกเขาด้วย

“ตอนนี้นักพัฒนา AI [generative] คนอื่น ๆ จะสามารถใช้เทคโนโลยีนี้เพื่อช่วยตรวจสอบว่าผลลัพธ์ข้อความที่ได้มามาจาก [large language models] ของตัวเองหรือไม่ ทำให้นักพัฒนาสามารถสร้าง AI ได้ง่ายขึ้น” นาย Pushmeet Kohli, รองประธานฝ่ายวิจัยที่ Google DeepMind กล่าวถึง MIT Technology Review.
SynthID ได้รับการทดสอบในผลิตภัณฑ์ Gemini ของ Google และไม่มีผู้ใช้ที่ล้านคนสามารถทำความแตกต่างระหว่างเนื้อหาที่มีลายน้ำและไม่มีลายน้ำ อย่างไรก็ตามนักวิจัยยอมรับว่ามันมีข้อจำกัดเมื่อข้อความได้รับการแก้ไขหรือแปล แต่พวกเขายังคงมีความคิดเชื่องในว่าเครื่องมือนี้สามารถช่วยต่อสู้กับข้อมูลที่ผิดพลาดและปรับปรุงความปลอดภัยของ AI

บริษัทเทคโนโลยีหลายแห่งได้ประกาศยุทธศาสตร์การติดป้าย AI ในเดือนที่ผ่านมา Meta ประกาศในเดือนกุมภาพันธ์ระบบเพื่อระบุเนื้อหา AI ใน Instagram, Facebook, และ Threads, Google กำหนดให้ผู้ใช้ติดป้ายเนื้อหา AI ในเดือนมีนาคม และ Tiktok เพิ่มป้ายเนื้อหาที่สร้างด้วย AI ในเดือนพฤษภาคม