ให้เรตสมาชิก: 5 / 5

ดาวใช้งานดาวใช้งานดาวใช้งานดาวใช้งานดาวใช้งาน
 

งานวิจัยสร้างภาพหลอก AI

      เป็นงานวิจัยล่าสุดจากทีมวิจัย LabSix จาก MIT

 

Artificial Intelligence
Artificial Intelligence

 

     ในปัจจุบันเรามักจะได้ทราบข่าวของการพัฒนา AI มากมาย และในช่วงปี 2560 นี้ เรามักจะได้ยินข่าวเกี่ยวกับการพัฒนา AI ให้สามารถพิจารณาภาพต่างๆ ให้เก่งมนุษย์อย่างเราๆ แต่ AI ก็มีข้อจำกัดของมันเหมือนกัน ข้อจำกัดนั้น คือ มันมักจะหารูปแบบเฉพาะบางอย่างในภาพให้ถูกหลอกได้ งานวิจัยล่าสุดของทีมวิจัย LabSix จาก MIT สามารถสร้างภาพหลอก AI จัดหมวดหมู่ภาพเป็นหมวดหมู่อะไรก็ได้ตามกำหนด

     งานวิจัยสร้างภาพหลอก AI ให้จัดหมวดหมู่ (image labelling) มีมานาน แต่งานวิจัยก่อนหน้านั้นเป็นไปได้ยาก เนื่องจาก ต้องรู้ค่าพารามิเตอร์และสถาปัตยกรรมของ AI 

     งานวิจัยสาธิตการปลอมภาพจากชุดข้อมูล CIFAR-10 โดยการเลือกภาพสุ่มจาก 1,000 ภาพ และสุ่มหมวดหมู่เป้าหมายที่ต้องการให้ AI จัดหมวดหมู่ตามที่ต้องการ โดยจำกัดการทดสอบไว้ที่ 1,000,000 ครั้ง ชุดข้อมูล CIFAR-10 มีอัตราความสำเร็จอยู่ที่ 99.6% และค่าเฉลี่ยจำนวนทดสอบอยู่ที่ 4,910 ครั้ง 

 

ภาพตัวอย่างที่สามารถหลอก Google Cloud Vision API ให้จัดภาพเป็นสุนัขได้สำเร็จ
ภาพตัวอย่างที่สามารถหลอก Google Cloud Vision API ให้จัดภาพเป็นสุนัขได้สำเร็จ

 

     อันตรายจากการโจมตีเช่นนี้จากผู้ไม่ประสงค์ดี มีได้หลายอย่าง ตั้งแต่การหลบหลีกการเซ็นเซอร์อนาจารด้วย AI ไปจนถึงการหลอกรถไร้คนขับที่อาจจะก่อให้เกิดอุบัติเหตุร้ายแรงได้

 

ข้อมูลอ้างอิง : https://www.blognone.com/node/98600

ภาพประกอบ : http://www.labsix.org/partial-information-adversarial-examples/

กระทู้ล่าสุดจากเว็บบอร์ด
หัวข้อกระทู้
ตอบ
เปิดดู
ล่าสุด
อยากทราบวิธีการ แบบคอลัมเป็น 3 คอลีม โดยใช้ tag <dl>
โดย Ittichai_chupol จ 25 พฤษภาคม 2020 11:56 am บอร์ด HTML CSS
0
3
จ 25 พฤษภาคม 2020 11:56 am โดย Ittichai_chupol
บันทึกประชุม มารียา ซีฟู้ดส์
โดย thatsawan จ 25 พฤษภาคม 2020 11:40 am บอร์ด มารียา ซีฟู้ดส์ (Main)
0
1
จ 25 พฤษภาคม 2020 11:40 am โดย thatsawan
10 สุดยอดสตรีทฟู้ดในแอฟริกาตะวันตก
โดย Anonymous อ 24 พฤษภาคม 2020 9:58 pm บอร์ด พูดคุยเรื่องทั่วไป จับฉ่าย
0
21
อ 24 พฤษภาคม 2020 9:58 pm โดย บุคคลทั่วไป
ข้อมูลสำหรับทำระบบ
โดย mindphp อ 24 พฤษภาคม 2020 4:07 am บอร์ด มารียา ซีฟู้ดส์ (Main)
0
3
อ 24 พฤษภาคม 2020 4:07 am โดย mindphp
อัพเดดความคืบหน้า / Progress - มารียา ซีฟู้ดส์
โดย mindphp อ 24 พฤษภาคม 2020 4:07 am บอร์ด มารียา ซีฟู้ดส์ (Main)
0
3
อ 24 พฤษภาคม 2020 4:07 am โดย mindphp
อัพเดด Template เว็บไซต์ FDD (V2)
โดย mindphp อ 24 พฤษภาคม 2020 3:51 am บอร์ด FDD (Main)
0
1
อ 24 พฤษภาคม 2020 3:51 am โดย mindphp
R - ปรับกราฟฟิก ของเว็บ FDD
โดย mindphp อ 24 พฤษภาคม 2020 3:50 am บอร์ด FDD (Main)
0
2
อ 24 พฤษภาคม 2020 3:50 am โดย mindphp
ความคืบหน้า / Progress
โดย mindphp อ 24 พฤษภาคม 2020 3:46 am บอร์ด FDD (Main)
0
1
อ 24 พฤษภาคม 2020 3:46 am โดย mindphp
VDO - SP Page builder
โดย numtan5839 ศ 22 พฤษภาคม 2020 6:27 pm บอร์ด SP Page Builder Thai Edition - Manual & VDO & เทคนิคการใช้งาน
1
7
ศ 22 พฤษภาคม 2020 7:00 pm โดย mindphp
วิธีการใช้ Google Tasks แอพจัดการบันทึกสิ่งที่ต้องทำ
โดย sirirat ศ 22 พฤษภาคม 2020 11:04 am บอร์ด Share Knowledge
0
43
ศ 22 พฤษภาคม 2020 11:04 am โดย sirirat
งานประจำวันที่ 22 พฤษภาคม 2563
โดย sirirat ศ 22 พฤษภาคม 2020 10:10 am บอร์ด M102 - ศิริรัตน์ ทิพย์น้อย
1
15
ศ 22 พฤษภาคม 2020 11:22 am โดย numtan5839
สรุปการเรียนรู้ประจำวัน 21/05/63
โดย sirirat ศ 22 พฤษภาคม 2020 10:08 am บอร์ด M102 - ศิริรัตน์ ทิพย์น้อย
0
3
ศ 22 พฤษภาคม 2020 10:08 am โดย sirirat
รายงานความคืบหน้า / Process
โดย mindphp ศ 22 พฤษภาคม 2020 1:07 am บอร์ด SP Page Builder Thai Edition (Main)
1
3
ศ 22 พฤษภาคม 2020 1:34 am โดย mindphp
ส่ง site map ให้ google แต่ไม่โชว์ในเมนูบนเว็บเรา จะมีผลอะไรกับเว็บไหมครับ
โดย toonytoony2004 พฤ 21 พฤษภาคม 2020 10:17 pm บอร์ด Joomla Development
6
73
ส 23 พฤษภาคม 2020 10:56 pm โดย toonytoony2004
B - เวลาของบอร์ดไม่ตรงเวลาไทย
โดย thatsawan พฤ 21 พฤษภาคม 2020 5:19 pm บอร์ด Odoojob.com - Tester
0
1
พฤ 21 พฤษภาคม 2020 5:19 pm โดย thatsawan
B - ข้อความแนะนำตัว ของผู้สมัครไม่แสดงใน บริษัทที่เปิดรับ
โดย thatsawan พฤ 21 พฤษภาคม 2020 5:18 pm บอร์ด Odoojob.com - Tester
0
1
พฤ 21 พฤษภาคม 2020 5:18 pm โดย thatsawan
R - [email Formart-หาคน] เเจ้งเมื่อมีคนสมัครงานใน Odoojob
โดย thatsawan พฤ 21 พฤษภาคม 2020 5:12 pm บอร์ด Odoojob.com - Manual & Content
0
1
พฤ 21 พฤษภาคม 2020 5:12 pm โดย thatsawan
B - บริษัทหาคน ต้องการเปลี่ยน Email รับสมัครงานหาทางเข้าไม่เจอ
โดย thatsawan พฤ 21 พฤษภาคม 2020 5:07 pm บอร์ด Odoojob.com - Tester
0
1
พฤ 21 พฤษภาคม 2020 5:07 pm โดย thatsawan
R - [email Formart-หางาน] หลังสมัครงาน บน Odoojob
โดย thatsawan พฤ 21 พฤษภาคม 2020 4:57 pm บอร์ด Odoojob.com - Manual & Content
0
5
พฤ 21 พฤษภาคม 2020 4:57 pm โดย thatsawan
ทำไมสมัครสมาชิกแล้วเข้าสู่ระบบไม่ได้??
โดย sirirat พฤ 21 พฤษภาคม 2020 4:56 pm บอร์ด MindPHP News & Feedback
0
44
พฤ 21 พฤษภาคม 2020 4:56 pm โดย sirirat