นักวิจัยได้พัฒนาระบบ AI ที่สามารถตรวจจับการละเมิดบรรทัดฐานทางสังคมโดยการวิเคราะห์ข้อความ เช่น อีเมลหรือ SMS พวกเขาได้รับทุนจากเพนตากอน
รู้สึกผิดและสารภาพในข้อความที่ส่งถึงคนที่คุณรักหรือไม่? ข้อควรระวัง: ข้อความนี้สามารถตรวจพบได้ปัญญาประดิษฐ์พัฒนาโดยนักวิจัยจาก Ben-Gurion University of the Negev ในอิสราเอล Yair Neuman และ Yochai Cohen ผู้นำเสนอระบบใหม่นี้ในบทความในวารสารรายงานทางวิทยาศาสตร์เมื่อเดือนพฤษภาคมที่ผ่านมา-พวกเขาอธิบายว่าพวกเขาได้สร้างเครื่องมือที่สามารถตรวจจับได้โดยอัตโนมัติ”การละเมิดบรรทัดฐานทางสังคม- จุดที่น่าแปลกใจหรือน่ากังวล ขึ้นอยู่กับมุมมองของคุณ: พวกเขาได้รับทุนจาก DARPA (สำหรับ “สำนักงานโครงการวิจัยขั้นสูงกลาโหม) ซึ่งเป็นหน่วยงานของเพนตากอนเผยให้เห็นเยรูซาเล็มโพสต์วันที่ 23 กรกฎาคม
มันเกี่ยวกับอะไร? ในคอลัมน์ของวารสารวิทยาศาสตร์ นักวิจัยเหล่านี้ระบุว่ามีบรรทัดฐานทางสังคมมากมายพอๆ กับวัฒนธรรมในโลก บรรทัดฐานทางสังคมมักเป็นกฎที่ไม่เป็นทางการซึ่งจะกำหนดในสังคมว่าอะไรเป็นที่ยอมรับและสิ่งที่ไม่ยอมรับภายในกลุ่ม และแม้ว่าเราจะพบกฎทั่วไป เช่น การฆ่าหรือการมาที่สำนักงานเมื่อเมาและสกปรกถือเป็นการละเมิดบรรทัดฐานทางสังคมสำหรับคนส่วนใหญ่และวัฒนธรรม แต่กฎเหล่านี้มักจะแตกต่างกันไปขึ้นอยู่กับประเทศหรือบริบท สิ่งที่ขมวดคิ้วหรือยอมรับไม่ได้ในพื้นที่หนึ่งของโลกไม่จำเป็นต้องเป็นเช่นนั้นในอีกพื้นที่หนึ่ง โดยทั่วไปแล้วการเปลือยกายจะยอมรับได้บนชายหาดสำหรับผู้เปลือยกาย แต่เป็นสิ่งต้องห้ามในที่สาธารณะ นักวิจัยเขียนในบทความของพวกเขา
การตรวจจับความละอาย ความอับอาย หรือความเสียใจ
อย่างไรก็ตาม กลุ่มหลังไม่ได้เริ่มดำเนินการสอบสวนบรรทัดฐานทางสังคมอย่างกว้างขวาง พวกเขาวางปัญหาแตกต่างออกไป นักวิจัยพิจารณาว่าการวิเคราะห์อารมณ์ซึ่งเป็นเรื่องปกติในทุกวัฒนธรรมซึ่งเป็นผลมาจากข้อความ (SMS, อีเมล) ก็เพียงพอแล้วเพื่อพิจารณาว่ามีการละเมิดบรรทัดฐานทางสังคมหรือไม่ -ตัวอย่างเช่น เมื่อผู้คนรู้สึกละอายใจ อับอาย หรือเสียใจ พวกเขาจะถือว่ารับรู้ถึงการละเมิดบรรทัดฐานทางสังคม», เขียนผู้เขียน.
แกนหลักของการวิจัยของพวกเขาคือการสอนให้ AI รับรู้อารมณ์เหล่านี้ ซึ่งถือเป็นตัวแปร ซึ่งเป็นคุณลักษณะที่วัดได้ ซึ่งเป็นสัญญาณว่ามีการละเมิดบรรทัดฐาน เอไอ (นี่.GPT-3) เมื่อต้องเผชิญกับข้อความที่เป็นลายลักษณ์อักษร ก่อนอื่นจะต้องระบุก่อนว่าบรรทัดฐานทางสังคมนั้นเป็นแบบใด ใน 10 หมวดหมู่ที่กำหนดโดยนักวิจัย เช่น ความสามารถ ความสุภาพ ความมั่นใจ ระเบียบวินัย ความเมตตากรุณา ความสุภาพ ความสำเร็จ ความสอดคล้อง ความเหมาะสม และความภักดี
การศึกษานี้จะใช้ทำอะไร และเพนตากอนกำลังมองหาอะไร?
จากนั้นพวกเขาถามเขาว่าข้อความที่เป็นปัญหาดูเหมือนเป็นบวกหรือลบ กล่าวอีกนัยหนึ่ง โมเดลภาษาเรียนรู้เพื่อพิจารณาว่ามีความรู้สึกผิดหรือความละอายใจอยู่หรือไม่ ถ้าเป็นบวกก็ถือเป็นการละเมิดบรรทัดฐานทางสังคม จากนั้นระบบก็ได้รับการทดสอบกับข้อความสั้นชุดใหญ่สองชุด และมันก็ประสบความสำเร็จตามที่นักวิจัยระบุ -นี่เป็นงานเบื้องต้น แต่เป็นการพิสูจน์ว่าแนวทางของเราถูกต้องและสามารถขยายไปสู่บรรทัดฐานทางสังคมได้มากขึ้น» ศาสตราจารย์นอยแมน หนึ่งในนักวิจัยสองคนที่เป็นผู้อำนวยการ Functor Lab ในด้านความรู้ความเข้าใจและวิทยาศาสตร์สมอง อธิบาย
อะไร "เชื่อมช่องว่างระหว่างสังคมศาสตร์และวิทยาศาสตร์ข้อมูลโดยการสร้างแบบจำลองที่เรียบง่ายและมีพื้นฐานทางทฤษฎีที่สามารถจำแนกการละเมิดบรรทัดฐานได้สำเร็จ» ขีดเส้นใต้ผู้เขียนในบทความของตน ในอนาคต พวกเขาหวังว่า AI จะสามารถวิเคราะห์ประวัติการสนทนาได้โดยอัตโนมัติ โดยมองหาสัญญาณของพฤติกรรมที่ไม่เหมาะสม อีกครั้ง ตามบรรทัดฐานทางสังคม
การศึกษานี้จะถูกนำไปใช้เพื่ออะไร และกระทรวงกลาโหมแสวงหาเงินทุนนี้เพื่ออะไร? ยากที่จะพูด สำหรับเพื่อนร่วมงานของเราจากกิซโมโดเพนตากอนสามารถสร้าง AI ที่สามารถวิเคราะห์อารมณ์ของประชากรต่างชาติที่ประเทศกำลังทำสงครามกับสหรัฐอเมริกาได้ งานนี้เป็นส่วนเพิ่มเติมจากงานวิจัยอื่นๆ ที่เกี่ยวข้องกับการวิเคราะห์ความรู้สึก และเช่นเดียวกับข้อหลัง พวกเขาตั้งคำถามด้านจริยธรรมมากมาย โดยเฉพาะอย่างยิ่งที่เกี่ยวข้องกับความเป็นส่วนตัวและการใช้ข้อมูล ตัวอย่างเช่น หาก AI นี้วิเคราะห์ข้อความในอนาคตอันใกล้นี้ บุคคลที่เกี่ยวข้องจะยินยอมหรือไม่ พวกเขาจะรู้ไหมว่าข้อความของพวกเขาถูกคัดกรองโดย AI นี้ สิ่งนี้ยังแสดงให้เห็นว่า American Defence ได้รวม AI ไว้ในสาขาการวิจัยของตนด้วย เธอจะทำอย่างไรกับมัน? นั่นคือคำถามทั้งหมดซึ่งจนถึงขณะนี้ยังไม่มีคำตอบ ได้รับการติดต่อจากเพื่อนร่วมงานของเราที่ Gizmodo DARPA ไม่ตอบสนองต่อคำขอของพวกเขา
🔴 เพื่อไม่พลาดข่าวสาร 01net ติดตามเราได้ที่Google ข่าวสารetวอทส์แอพพ์-
แหล่งที่มา : รายงานทางวิทยาศาสตร์
