“เราอยู่ในจุดที่คุณไม่สามารถแยกแยะความแตกต่างระหว่างของปลอมกับของจริงได้” ศาสตราจารย์ห่าวหลี่แห่งมหาวิทยาลัยเซาเทิร์นแคลิฟอร์เนียกล่าวกับ BBC

“มันน่ากลัว.”

เราอยู่ที่สถานที่ปฏิบัติงานนอกชายฝั่งของนักวิทยาศาสตร์คอมพิวเตอร์ที่ รับจดทะเบียนบริษัท งาน World Economic Forum ในเมืองดาวอส ซึ่งให้คำใบ้ว่าเขาหมายถึงอะไร

เช่นเดียวกับเครื่องมือ Deepfake อื่นๆ ซอฟต์แวร์ของเขาสร้างวิดีโอที่ควบคุมด้วยคอมพิวเตอร์ของผู้คน ซึ่งมักจะเป็นนักการเมืองหรือคนดัง ซึ่งได้รับการออกแบบมาให้ดูเหมือนจริง

ส่วนใหญ่มักเกี่ยวข้องกับ “การสลับหน้า” โดยที่ใบหน้าของคนดังจะถูกซ้อนทับบนความคล้ายคลึงของคนอื่น

ขณะที่ฉันนั่ง กล้องจะถ่ายใบหน้าของฉันและฉายลงบนหน้าจอต่อหน้าฉัน คุณลักษณะของฉันจะถูกแมปแบบดิจิทัลแล้ว

ศาสตราจารย์ห่าวหลี่แห่งมหาวิทยาลัยเซาเทิร์นแคลิฟอร์เนีย
คำบรรยายภาพ
ศาสตราจารย์ Hao Li กล่าวว่า Deepfakes เป็น ‘อันตราย’
deepfakes คืออะไร?
ใบหน้าของนักแสดงลีโอนาร์โด ดิคาปริโอ อดีตนายกรัฐมนตรีอังกฤษ เทเรซา เมย์ และนักฟุตบอลไลโอเนล เมสซี ถูกนำมาซ้อนทับบนภาพใบหน้าของฉันแบบเรียลไทม์ โดยลักษณะและสีหน้าของพวกเขาผสานเข้ากับฉันอย่างแนบเนียน

แม้ว่าเอฟเฟกต์จะน่าประทับใจ แต่ก็น่าขบขันมากกว่าน่ากลัว แต่ก็อาจทำให้ผู้ชมบางคนสับสนได้ อย่างไรก็ตาม เมื่อศาสตราจารย์แสดงวิดีโอ Deepfake อีกวิดีโอหนึ่งที่เขากำลังทำอยู่ซึ่งยังไม่ได้เปิดเผยต่อสาธารณะ ฉันเข้าใจดีว่าเขาหมายถึงอะไร

มันแสดงให้เห็นผู้นำระดับโลกที่มีชื่อเสียงกล่าวสุนทรพจน์และไม่สามารถแยกแยะจากของจริงได้

“ลองนึกถึงศักยภาพของการใช้ในทางที่ผิดและการบิดเบือนข้อมูลที่เราเห็นได้จากสิ่งนี้” ศาสตราจารย์หลี่กล่าว

Deepfakes กลายเป็นหัวข้อข่าวในปี 2560 หลังจากที่วิดีโอที่ผลิตอย่างคร่าวๆ เริ่มปรากฏบนอินเทอร์เน็ต ซึ่งมักเกี่ยวข้องกับการสลับหน้าหรือการจัดการใบหน้าของคนดัง

อเล็ก บอลด์วินปลอมตัวเป็นประธานาธิบดีทรัมป์: อเล็ก บอลด์วินตัวจริงอยู่ทางซ้าย
แหล่งที่มาของภาพห่าวลี่
คำบรรยายภาพ
อเล็ก บอลด์วินปลอมตัวเป็นประธานาธิบดีทรัมป์: อเล็ก บอลด์วินตัวจริงอยู่ทางซ้าย – คุณบอกได้ไหม
บางคนส่งร่างที่มีชื่อเสียงซึ่งเปล่งออกมาโดยอิมเพรสชั่นนิสต์หรือนักแสดงตลก แต่ในกรณีส่วนใหญ่ ใบหน้าของคนดังมักจะถูกซ้อนทับกับใบหน้าของดาราหนังโป๊ ซึ่งทำให้ผู้ที่ตกเป็นเป้าหมายตื่นตระหนก

ตั้งแต่นั้นมา เทคโนโลยีซึ่งอาศัยอัลกอริธึมการเรียนรู้ของเครื่องที่ซับซ้อนได้พัฒนาไปอย่างรวดเร็วและของปลอมได้กลายเป็นสิ่งที่พบเห็นได้ทั่วไปมากขึ้น บางส่วนถูกใช้เป็น “ข่าวปลอม” คนอื่น ๆ ถูกอ้างถึงในกรณีของการฉ้อโกงออนไลน์ Facebook ยังแบนพวกเขาจากแพลตฟอร์มเพราะกลัวว่าพวกเขาจะถูกใช้เพื่อจัดการกับผู้คน

ซอฟต์แวร์ของ Prof Li ไม่เคยออกแบบมาเพื่อหลอกลวงผู้คน และจะขายให้กับธุรกิจเท่านั้น เขากล่าว แต่เขาคิดว่ามารที่เป็นอันตรายอาจกำลังจะหลบหนีขวดของมัน เนื่องจากเทคโนโลยี Deepfake ตกไปอยู่ในมือของพวกคนผิด และประชาธิปไตยกำลังตกอยู่ในอันตราย

“ความเสี่ยงประการแรกคือการที่ผู้คนใช้ข้อเท็จจริงที่มีอยู่แล้วของ Deepfakes เพื่อทำลายหลักฐานวิดีโอของแท้ แม้ว่าจะมีภาพที่คุณทำหรือพูดอะไรบางอย่างที่คุณสามารถพูดได้ว่าเป็น Deepfake และเป็นการยากที่จะพิสูจน์เป็นอย่างอื่น”

ภาพ Deepfake
แหล่งที่มาของภาพเก็ตตี้อิมเมจ
คำบรรยายภาพ
เทคโนโลยี Deepfake ใช้ภาพนิ่งของบุคคลนับพัน
นักการเมืองทั่วโลกถูกกล่าวหาว่าใช้วิธีนี้ คนหนึ่งคือ Joao Doria ผู้ว่าการเซาเปาโลในบราซิล ในปี 2018 นักการเมืองที่แต่งงานแล้วอ้างว่าวิดีโอที่ถูกกล่าวหาว่าแสดงให้เขาเห็นในเซ็กส์หมู่เป็นเรื่องหลอกลวง และไม่มีใครสามารถพิสูจน์ได้อย่างชัดเจนว่าไม่ใช่วิดีโอดังกล่าว

อย่างไรก็ตาม ภัยคุกคามที่ร้ายแรงกว่านั้นคือศักยภาพของ Deepfakes ที่จะนำไปใช้ในการรณรงค์บิดเบือนข้อมูลทางการเมือง ศาสตราจารย์หลี่กล่าว “การเลือกตั้งถูกหลอกด้วยข่าวปลอมอยู่แล้ว ลองนึกภาพว่าจะเกิดอะไรขึ้นถ้าคุณเพิ่ม Deepfakes ที่ซับซ้อนลงในมิกซ์นี้”

จนถึงตอนนี้ คลิปอย่างคุณเปโลซียังมองว่าเป็นของปลอมได้ไม่ยาก แต่เขากล่าวว่าทำอย่างละเอียดถี่ถ้วน ผู้คนสามารถเริ่มคำพูดใส่ปากนักการเมืองและไม่มีใครรู้ – หรืออย่างน้อยเมื่อได้รับการแก้ไขก็สายเกินไป

“ในประเทศกำลังพัฒนาที่ความรู้ด้านดิจิทัลอาจยิ่งมีอันตรายมากขึ้นไปอีก ที่นั่นคุณสามารถส่งผลกระทบต่อการตอบสนองของสังคมได้ คุณยังสามารถเผยแพร่สิ่งที่ทำให้ผู้คนเสียชีวิตได้”

แต่บางคน เช่น Deeptrace บริษัทรักษาความปลอดภัยทางไซเบอร์ของเนเธอร์แลนด์ ซึ่งติดตามเทคโนโลยี รู้สึกว่าความตื่นตระหนกต่อ Deepfakes นั้นมากเกินไป

ผู้กำกับจอร์โจ ปาทรินีกล่าวว่ามันค่อนข้างง่ายที่จะดึงเอาของปลอมที่น่าเชื่อออกมา เมื่อคนที่ถูกล้อเลียนคือคนที่คุณไม่รู้จัก แต่ถ้าเป็นนักการเมืองหรือคนดังที่คุ้นเคยกันเป็นล้านคงยากกว่ามาก “ผู้คนคุ้นเคยกับเสียงและการแสดงออกทางสีหน้ามากเกินไป” เขากล่าวกับ BBC

“คุณจะต้องสามารถเลียนแบบเสียงของพวกเขาและทำให้พวกเขาพูดในสิ่งที่พวกเขาจะพูดได้อย่างน่าเชื่อถือ ซึ่งจำกัดสิ่งที่คุณทำได้”

‘วันมืด’
นอกจากนี้ แม้ว่าเขาจะยอมรับว่าเครื่องมือ Deepfake ที่ซับซ้อนและอันตรายที่สุดมีให้ใช้ฟรีในโอเพ่นซอร์สบนอินเทอร์เน็ต แต่เขากล่าวว่าเครื่องมือเหล่านี้ยังคงต้องการความเชี่ยวชาญในการใช้งาน “นั่นไม่ได้หมายความว่าพวกเขาจะไม่ถูกขายให้แพร่หลายและเข้าถึงได้ง่ายขึ้น แต่ฉันไม่คิดว่ามันจะเกิดขึ้นเร็วขนาดนี้ ฉันคิดว่าต้องใช้เวลาหลายปี”

อย่างไรก็ตาม นายปาตรินีคิดว่าของปลอมที่แยกไม่ออกจะกลายเป็นเรื่องธรรมดาในที่สุด และสามารถใช้เป็นอาวุธทางการเมืองร้ายแรงได้

เมื่อเดือนธันวาคมที่ผ่านมา Facebook ได้นำบัญชีปลอมกว่า 900 บัญชีออกจากแพลตฟอร์มของตน โดยให้ลองลิ้มรสว่าหน้าตาจะหน้าตาเป็นอย่างไร ซึ่งถูกกล่าวหาว่าใช้วิธีหลอกลวงเพื่อผลักดันอุดมการณ์ฝ่ายขวาทางออนไลน์

โดยเฉพาะอย่างยิ่ง บัญชีดังกล่าวใช้รูปโปรไฟล์ปลอมของใบหน้าปลอมที่สร้างขึ้นโดยใช้ปัญญาประดิษฐ์

ทั้ง Prof Li และ Deeptrace ได้สร้างเครื่องมือตรวจจับ Deepfake แม้ว่าพวกเขาจะยอมรับว่าอาชญากรไซเบอร์จะทำงานอย่างไม่รู้จักเหน็ดเหนื่อยเพื่อพยายามหลีกเลี่ยง

อย่างไรก็ตาม คุณ Patrini มองโลกในแง่ดี: “แม้ว่า Deepfakes จะมีความซับซ้อนมาก มนุษย์ก็ไม่สามารถแยกแยะความแตกต่างได้ แต่ฉันเชื่อว่าเราจะสามารถสร้างเครื่องมือที่ซับซ้อนมากขึ้นเพื่อตรวจจับพวกมันได้ มันเหมือนกับซอฟต์แวร์ป้องกันไวรัส – มันจะได้รับการอัปเดตและปรับปรุงอย่างต่อเนื่อง ”

ข้อมูลจาก www.bbc.com