Koe Recast เป็นเพียงตัวเลือกล่าสุดในกลุ่มตัวเลือกการเลียนแบบเสียงร้องที่แปลกประหลาดและคาดว่าจะมีอีกมากที่จะตามมา
ความสนใจที่เพิ่มขึ้นของเทคโนโลยี AI Deepfake ในช่วงไม่กี่ปีที่ผ่านมาได้มุ่งเน้นที่กลอุบายด้านภาพเป็นหลัก ลองนึกภาพว่าวิดีโอสามารถซ้อนใบหน้าของบุคคลลงบนร่างของอีกคนหนึ่งที่สร้างงานศิลปะที่เหนือจริงตามคำแนะนำของผู้ใช้และจริยธรรมที่เป็นปัญหารอบ ๆ ความสามารถทั้งหมดเหล่านี้ แต่วิธีการสำคัญอีกวิธีหนึ่งในการโน้มน้าวให้มีการล้อเลียนทางดิจิทัลคือเพิ่งได้รับการตรวจสอบและอภิปรายอย่างเหมาะสม
ตัวกรองเสียง AI ตัวกรองเสียงแม้จะไม่จำเป็นต้องใหม่ แต่ก็เพิ่งเริ่มได้รับการพิจารณาอย่างจริงจังมากขึ้นด้วยความช่วยเหลือจาก AI น่าเสียดายที่มันก่อให้เกิดผลกระทบทางสังคมที่ร้ายแรง และเช่นเดียวกับอุตสาหกรรมวิดีโอ Deepfake ดูเหมือนว่าจะมีผู้กำกับดูแลเพียงเล็กน้อยที่สามารถทำได้เพื่อหยุดมัน เครื่องมือ AI ที่กำลังเกิดขึ้นใหม่ เช่น Koe Recast และ Voice.ai นั้นกำลังปรับปรุงความสามารถในการแปลงอินพุตเสียงให้กลายเป็นเสียงที่แทบทุกคนต้องการ
หากมีแหล่งข้อมูลเพียงพอสำหรับการวิเคราะห์ ในบางกรณี โปรแกรมเหล่านี้ต้องการเพียงคลิประหว่าง 15 ถึง 30 วินาทีเพื่อสร้างการเลียนแบบที่น่าเชื่อ แม้ว่า Koe Recast จะอยู่ในช่วงทดสอบอัลฟ่าส่วนตัวเท่านั้น แต่ตัวอย่างก็มีอยู่แล้วในคลิปที่สองสั้นๆ ของ Mark Zuckerberg ที่ฟังดูเหมือนผู้บรรยายที่เน้นเบสหนักๆ ผู้หญิง และแม้แต่ตัวการ์ตูนอนิเมะที่มีเสียงสูง
“เป้าหมายของฉันคือการช่วยให้ผู้คนแสดงออกในทางที่ทำให้พวกเขามีความสุขมากขึ้น” Asara Near ผู้สร้างในเท็กซัสของ Koe Recast บอก Ars Technica ในการสัมภาษณ์เมื่อสัปดาห์ที่แล้ว
Near เสริมว่าในที่สุดเขาตั้งใจที่จะปล่อยแอพเดสก์ท็อปที่สามารถเปลี่ยนเสียงของผู้ใช้แบบเรียลไทม์บนแพลตฟอร์มอย่าง Discord และ Zoom เมื่อถูกถามถึงศักยภาพของตัวร้ายที่จะใช้ Koe Recast สำหรับการโจมตีส่วนบุคคลและข้อมูลที่ไม่ถูกต้อง Near ให้เหตุผลว่า “เช่นเดียวกับเทคโนโลยีใดๆ เป็นไปได้ที่จะมีทั้งด้านบวกและด้านลบ แต่ฉันคิดว่ามนุษยชาติส่วนใหญ่ประกอบด้วยความมหัศจรรย์ ประชาชนจะได้ประโยชน์มหาศาลจากสิ่งนี้”
อย่างไรก็ตาม นักวิจารณ์ยังคงสงสัยในการไว้วางใจประชาชนทั่วไปด้วยเครื่องมือที่อาจก่อให้เกิดความโกลาหลเช่นนี้ เมื่อเร็ว ๆ นี้ ตัวแทนคอลเซ็นเตอร์ที่รับบริการเอาท์ซอร์สบางรายได้เริ่มใช้ซอฟต์แวร์ AI เพื่อลบสำเนียงของประเทศบ้านเกิดของตน เพื่อให้ฟังดู “อเมริกัน” มากขึ้น เพื่อลดอคติของผู้บริโภคชาวตะวันตก ในขณะที่ผู้สร้างเครื่องมือโต้แย้งว่าการประดิษฐ์ของพวกเขาป้องกันอคติ หลายคนโต้แย้งว่าเครื่องมือนี้เป็นเพียงวิธีหลีกเลี่ยงการจัดการกับปัญหาที่ใหญ่กว่าที่อยู่ในมือ กล่าวคือ ความเกลียดกลัวชาวต่างชาติและการเหยียดเชื้อชาติ ในทำนองเดียวกัน
พนักงานในธุรกิจขนาดใหญ่บางแห่งได้ตกเป็นเหยื่อของนักต้มตุ๋นที่ขอการโอนเงินและรหัสผ่าน ในขณะที่ใช้เสียงล้อเลียนที่คล้ายกันเพื่อเลียนแบบเจ้านาย “ในบรรดาธุรกิจขนาดใหญ่ ฉันคิดว่าพวกเขาเริ่มเห็นสิ่งเหล่านี้มากขึ้นเรื่อยๆ เพราะพวกเขาเป็นเป้าหมายที่สุกงอมจริงๆ สำหรับสิ่งนี้” Kyle Alspach นักข่าวความปลอดภัยทางไซเบอร์ของ Protocol อธิบายในขณะที่พูดเมื่อเร็วๆ นี้เกี่ยวกับตลาดของ NPR
สนับสนุนโดย. ยู ฟ่า สล็อต อันดับ 1