อิสราเอลพัฒนา Adversa AI หลอกอัลกอริทึมของระบบจดจำใบหน้าได้สำเร็จ

Adversa AI

            Adversa AI เป็นปัญญาประดิษฐ์อัจฉริยะที่ถูกพัฒนาขึ้นโดยAdversa บริษัทเทคโนโลยีของฝั่งอิสราเอล โดยมันสามารถหลอกอัลกอริทึมของระบบจดจำใบหน้าที่อยู่ในอุปกรณ์ต่าง ๆ ได้ด้วยการเพิ่มจุดรบกวน หรือ “noise” เข้าไปในภาพถ่ายใบหน้าปกติจนทำให้ระบบจดจำใบหน้าทำงานผิดเพี้ยนไปจากเดิมและยอมปลดล็อกอุปกรณ์นั้น ๆ ในที่สุด

Adversa AI

Adversa AI ดัดแปลง noise ของภาพต้นฉบับ เพื่อหลอกอัลกอริทึม

            สำหรับAdversa AIประสบความสำเร็จในการหลอกอัลกอริทึมของระบบจดจำใบหน้า โดยการเพิ่มจุดรบกวนหรือ “noise” จำนวนมากเข้าไปในภาพถ่ายต้นฉบับ โดยที่ภาพเดิมยังมีความละเอียดมากพอที่สายตามนุษย์จะมองว่าเป็นภาพต้นฉบับอยู่สำหรับใครที่ยังงง ๆ ให้ลองนึกถึงภาพ ๆ อะไรก็ได้เช่น บ้านหลังหนึ่ง ซึ่งในภาพนั้นจะมีnoise ที่เป็นจุดขนาดเล็กเกินกว่าสายตามนุษย์จะมองเห็นอยู่เป็นจำนวนมาก แต่อัลกอริทึมของระบบจดจำใบหน้าจะใช้จุดเล็ก ๆ จำนวนมหาศาลที่เรามองไม่เห็นเหล่านี้ในการระบุตัวตนว่าภาพดังกล่าวเป็นภาพอะไรตรงกับฐานข้อมูลที่ตั้งค่าไว้หรือไม่ตรงนี้เองที่เจ้าAdversa AIจะเข้าไปเปลี่ยนnoiseในภาพต้นฉบับให้อัลกอริทึมของระบบจดจำใบหน้าเข้าใจว่าเป็นภาพอื่น แม้สายตาของมนุษย์จะยังคงมองว่ามันเป็นภาพบ้านอยู่เหมือนเดิมก็ตาม

Adversa AI ดัดแปลง noise ของภาพต้นฉบับ

            ข่าวไอทีคอมพิวเตอร์ ทั้งนี้Adversa AIได้มีการทดสอบโดยใช้ภาพ “Alex Polyakov” ผู้บริหารของบริษัทAdversaที่พัฒนาAIตัวนี้ให้หลอกPimEyesที่เป็นเสิร์ชเอ็นจิ้นค้นหาภาพด้วยระบบจำจดใบหน้า โดยพวกเขาใช้ภาพAlex Polyakovที่มีการดัดแปลงnoiseให้ PimEyesค้นหาภาพที่เหมือนกัน ซึ่งผลการทดสอบปรากฏว่าPimEyesค้นหาภาพ Polyakovเป็นElon Muskไปซะอย่างนั้นทั้งนี้ก็เพราะภาพต้นฉบับที่สายตามนุษย์มองเห็นเป็นภาพPolyakovถูกAIตัวนี้ดัดแปลงnoiseจนAIกันเห็นเป็นElon Muskนั่นเอง เทคโนโลยีไบโอเมตริก การยืนยันด้วยใบหน้า นวัตกรรมใหม่ของประเทศสิงคโปร์

Adversa AI ระบบจดจำใบหน้า

            การเกิดขึ้นของAdversa AIอาจส่งผลกระทบกับระบบFace recognition ที่ถูกใช้เป็นระบบยืนยันตัวตนในอุปกรณ์ต่าง ๆ โดยเฉพาะสมาร์ทโฟน ทดลองเล่นสล็อตโรม่าฟรี รวมทั้งการAccess เข้าระบบต่าง ๆ หากสามารถหลอกอัลกอริทึมได้ ก็อาจเกิดการขโมยตัวตนในโลกออนไลน์ได้ง่าย ๆ ซึ่งนั่นอาจทำให้Face recognitionไม่ปลอดภัยอีกต่อไปก็เป็นได้

You may also like