ให้เรตสมาชิก: 5 / 5

ดาวใช้งานดาวใช้งานดาวใช้งานดาวใช้งานดาวใช้งาน
 

งานวิจัยสร้างภาพหลอก AI

      เป็นงานวิจัยล่าสุดจากทีมวิจัย LabSix จาก MIT

 

Artificial Intelligence
Artificial Intelligence

 

     ในปัจจุบันเรามักจะได้ทราบข่าวของการพัฒนา AI มากมาย และในช่วงปี 2560 นี้ เรามักจะได้ยินข่าวเกี่ยวกับการพัฒนา AI ให้สามารถพิจารณาภาพต่างๆ ให้เก่งมนุษย์อย่างเราๆ แต่ AI ก็มีข้อจำกัดของมันเหมือนกัน ข้อจำกัดนั้น คือ มันมักจะหารูปแบบเฉพาะบางอย่างในภาพให้ถูกหลอกได้ งานวิจัยล่าสุดของทีมวิจัย LabSix จาก MIT สามารถสร้างภาพหลอก AI จัดหมวดหมู่ภาพเป็นหมวดหมู่อะไรก็ได้ตามกำหนด

     งานวิจัยสร้างภาพหลอก AI ให้จัดหมวดหมู่ (image labelling) มีมานาน แต่งานวิจัยก่อนหน้านั้นเป็นไปได้ยาก เนื่องจาก ต้องรู้ค่าพารามิเตอร์และสถาปัตยกรรมของ AI 

     งานวิจัยสาธิตการปลอมภาพจากชุดข้อมูล CIFAR-10 โดยการเลือกภาพสุ่มจาก 1,000 ภาพ และสุ่มหมวดหมู่เป้าหมายที่ต้องการให้ AI จัดหมวดหมู่ตามที่ต้องการ โดยจำกัดการทดสอบไว้ที่ 1,000,000 ครั้ง ชุดข้อมูล CIFAR-10 มีอัตราความสำเร็จอยู่ที่ 99.6% และค่าเฉลี่ยจำนวนทดสอบอยู่ที่ 4,910 ครั้ง 

 

ภาพตัวอย่างที่สามารถหลอก Google Cloud Vision API ให้จัดภาพเป็นสุนัขได้สำเร็จ
ภาพตัวอย่างที่สามารถหลอก Google Cloud Vision API ให้จัดภาพเป็นสุนัขได้สำเร็จ

 

     อันตรายจากการโจมตีเช่นนี้จากผู้ไม่ประสงค์ดี มีได้หลายอย่าง ตั้งแต่การหลบหลีกการเซ็นเซอร์อนาจารด้วย AI ไปจนถึงการหลอกรถไร้คนขับที่อาจจะก่อให้เกิดอุบัติเหตุร้ายแรงได้

 

ข้อมูลอ้างอิง : https://www.blognone.com/node/98600

ภาพประกอบ : http://www.labsix.org/partial-information-adversarial-examples/

กระทู้ล่าสุดจากเว็บบอร์ด
หัวข้อกระทู้
ตอบ
เปิดดู
ล่าสุด
list box เลือกแสดงรูปแบบของวันที่ (Date Format )
โดย bankjittapol พ 20 พ.ย. 2019 6:55 pm บอร์ด Joomla Developing Knowledge
0
2
พ 20 พ.ย. 2019 6:55 pm โดย bankjittapol
คำสั่งเข้าใช้งาน PostgreSQL ด้วย Command Line
โดย mindphp อ 30 ก.ค. 2017 11:24 pm บอร์ด PostgreSQL
6
1808
พ 20 พ.ย. 2019 6:38 pm โดย mindphp
replace() คำสั่งค้นหาแทนที่ใน javascript
โดย jamepiyawat พ 20 พ.ย. 2019 6:36 pm บอร์ด Jquery & Ajax Knowledge
0
2
พ 20 พ.ย. 2019 6:36 pm โดย jamepiyawat
VDO - แนะนำฟังก์ชั่นระบบ Webboard Mindphp.com ใหม่ (phpbb v.3.2)
โดย numtan5839 พ 20 พ.ย. 2019 6:31 pm บอร์ด M097 - ตรีเนตร บูรณโพธิ์ทอง
0
2
พ 20 พ.ย. 2019 6:31 pm โดย numtan5839
วิธีการเขียน SQL เพื่ม เพิ่มคอลัมน์ ฐานข้อมูล
โดย Ittichai_chupol พ 20 พ.ย. 2019 6:06 pm บอร์ด SQL Knowledge
0
3
พ 20 พ.ย. 2019 6:06 pm โดย Ittichai_chupol
VDO - Program Exchange Rate
โดย numtan5839 อ 12 พ.ย. 2019 2:42 pm บอร์ด M097 - ตรีเนตร บูรณโพธิ์ทอง
2
62
พ 20 พ.ย. 2019 6:01 pm โดย numtan5839
วิธีเช็คเวอร์ชั่น ของ Joomla
โดย bankjittapol พ 20 พ.ย. 2019 5:39 pm บอร์ด Joomla Developing Knowledge
0
9
พ 20 พ.ย. 2019 5:39 pm โดย bankjittapol
G - ข้อมูลสำหรับทำระบบ สรุปความต้องการ / ประชุมกับลูกค้า- ThaiVI
โดย mindphp พ 10 ต.ค. 2018 3:29 am บอร์ด ThaiVI (Main)
10
129
พ 20 พ.ย. 2019 4:15 pm โดย thatsawan
การปรับเปลี่ยนข้อมูลของ odject โดยใช้ javascript
โดย Ittichai_chupol พ 20 พ.ย. 2019 3:34 pm บอร์ด Jquery & Ajax Knowledge
0
5
พ 20 พ.ย. 2019 3:34 pm โดย Ittichai_chupol
ค้นหาแบบนี้ ใช้ส่วนเสริมตัวไหนครับ
โดย toonytoony2004 อ 19 พ.ย. 2019 8:25 pm บอร์ด Joomla Development
2
20
พ 20 พ.ย. 2019 1:12 pm โดย mindphp
ระหว่าง joomla กับ wordpress แตกต่างกันยังไงครับ
โดย aloha11x พ 13 พ.ย. 2019 2:12 pm บอร์ด ปัญหาการใช้ phpBB3, SMF, Joomla, Wordpress, CMS, CRM
1
55
พ 20 พ.ย. 2019 1:10 pm โดย mindphp
จะทำยังไงถึงจะแปลงวันที่ ให้อยู่ในรูปแบบของ universal date format ครับ
โดย bankjittapol พ 20 พ.ย. 2019 10:44 am บอร์ด Joomla Development
2
22
พ 20 พ.ย. 2019 6:24 pm โดย bankjittapol
งานประจำวันที่ 20 พฤศจิกายน 2562
โดย numtan5839 พ 20 พ.ย. 2019 10:10 am บอร์ด M097 - ตรีเนตร บูรณโพธิ์ทอง
0
15
พ 20 พ.ย. 2019 10:10 am โดย numtan5839
list box เพื่อเลือกจังหวัดที่ต้องการให้แสดงผลพยากรณ์อากาศ
โดย bankjittapol อ 19 พ.ย. 2019 7:12 pm บอร์ด Joomla Developing Knowledge
0
14
อ 19 พ.ย. 2019 7:12 pm โดย bankjittapol
justify-content: space-between คำสั่ง flex ที่จะช่วยให้ระยะห่างแต่ละรูปเท่ากัน
โดย jamepiyawat อ 19 พ.ย. 2019 6:13 pm บอร์ด CSS Knowledge
0
6
อ 19 พ.ย. 2019 6:13 pm โดย jamepiyawat
วิธีการสร้าง form เมื่อกดปุ่ม โดยใช้ javascript
โดย Ittichai_chupol อ 19 พ.ย. 2019 6:09 pm บอร์ด Jquery & Ajax Knowledge
0
11
อ 19 พ.ย. 2019 6:09 pm โดย Ittichai_chupol
Introducing the new Mindphp.com Webboard system function (phpbb v.3.2)
โดย numtan5839 อ 19 พ.ย. 2019 6:06 pm บอร์ด M097 - ตรีเนตร บูรณโพธิ์ทอง
0
7
อ 19 พ.ย. 2019 6:06 pm โดย numtan5839
อยากทราบวิธีการ Link ปุ่ม
โดย numtan5839 อ 19 พ.ย. 2019 5:06 pm บอร์ด MindPHP News / Feedback
2
28
อ 19 พ.ย. 2019 5:50 pm โดย numtan5839
อยากทราบวิธีการปรับเปลี่ยนค่า ตัวแปร array ใน javascript
โดย Ittichai_chupol อ 19 พ.ย. 2019 5:19 pm บอร์ด JavaScript & Jquery Ajax
4
19
อ 19 พ.ย. 2019 6:02 pm โดย jamepiyawat
report ปัญหา รูปโปรไฟล์หาย
โดย chatee supasand พ 13 พ.ย. 2019 12:46 pm บอร์ด MindPHP News / Feedback
1
39
อ 19 พ.ย. 2019 11:18 am โดย thatsawan