กฎ 5 ข้อเพื่อ AI ที่ปลอดภัย

เคยคิดไหมว่าหุ่น AI ที่ฉลาดมากไป เรียนรู้ทำอะไรใหม่ๆได้เอง จะย้อนกลับมาเป็นภัยกับเราเหมือนที่คนดังหลายคนกลัวกัน

ล่าสุด Google เสนอลิสต์ของปัญหา 5 ข้อที่คนสร้าง AI ต้องพึงระวังไว้ให้ดี ( สมมติว่าทั้งหมดใช้ตัวอย่าง “หุ่นยนต์ทำความสะอาด” ) ‪#‎iamSmart‬

1. ระวัง side effect ด้านลบ
😵 หุ่นต้องไม่ไปกวาดแจกันแก้วน้ำต่างๆบนโต๊ะทิ้งหมด เพียงเพราะทำอย่างนี้แล้วจะทำความสะอาดได้เร็วขึ้น

2. ระวังการโกงรางวัล
😵 หุ่นต้องทำความสะอาดจริง ไม่ใช่ซุกขยะไว้ใต้พรม ทำให้หุ่นสแกนไปไม่เห็นขยะ โกงว่าทำความสะอาดเสร็จแล้ว

3. รู้จักยืดหยุ่นว่าบางอย่างก็ใช่จะทำซ้ำๆบ่อยๆได้ตามต้องการ
😵 แทนที่จะต้องวนมาถามความเห็นจากคนทุกครั้ง (ซึ่งจะน่ารำคาญมาก) หุ่นควรถามคนให้น้อยครั้งที่สุด แต่ใช้คำแนะนำนั้นอย่างคุ้มค่าที่สุด

4. ทำอะไรต้องปลอดภัยเสมอ
😵 หุ่นต้องไม่ตะบี้ตะบันทำแต่ความสะอาด จนเอาไม้ม็อบเปียกไปแหย่ใส่ปลั๊กไฟเกิดไฟไหม้ตามมา

5. Robust พอสำหรับการเปลี่ยนที่
😵 หุ่นที่ถูกสอนมาให้ทำความสะอาดในโรงงาน ถ้าเปลี่ยนให้มาทำความสะอาดบ้านคนบ้างก็ต้องยังทำได้อยู่

ที่มาของข้อมูล: http://www.engadget.com/2016/06/23/googles-ai-fears-are-adorably-mundane-for-now/