การตอบสนองของหุ่นยนต์สนทนาตัวใหม่ที่ Meta เผยแพร่ทางออนไลน์ยังคงเหลือบางสิ่งที่ต้องการ แต่นักวิจัยเชื่อว่าพวกเขาได้ปรับปรุงความเป็นพลเมืองของซอฟต์แวร์ประเภทนี้เพียงเล็กน้อย
การสร้างแชทบอทสาธารณะถือเป็นการกระทำที่มีความเสี่ยงสูง ในปี 2559 Microsoft ได้สยายปีกด้วยเทย์ซึ่งผ่านการติดต่อกับมนุษย์ที่เป็นอันตรายจำนวนหนึ่ง ทำให้เกิดการแบ่งแยกเชื้อชาติและรังเกียจผู้หญิงอย่างรวดเร็ว ด้วย “BlenderBot3” (BB3) Meta เชื่อว่าได้สร้างระบบที่ยังคงเรียนรู้จากการติดต่อกับมนุษย์ในขณะที่มีปฏิกิริยาอารยะธรรมและเป็นที่ยอมรับของสังคมมากขึ้น แต่ชัดเจนว่าเรายังห่างไกลจากเป้าหมาย
ความคุ้มครองเพิ่มเติม
สามารถเข้าถึงได้เฉพาะผู้ที่อาศัยอยู่ในสหรัฐอเมริกาเป็นเวลาสองสามวัน ซอฟต์แวร์นี้หลีกเลี่ยง (ในขณะนี้) ส่วนเกินบางอย่าง เช่น การยกย่องชมเชยของอดอล์ฟ ฮิตเลอร์ แต่เขาก็ยังเปิดกว้างต่อทฤษฎีสมคบคิด ตามรายงานของ Bloomberg BB3 กล่าวว่าโดนัลด์ ทรัมป์ยังคงเป็นประธานาธิบดีและจะเป็นเช่นนี้ตลอดไป นอกจากนี้เขายังประกาศว่าเขาไม่ใช่“ไม่น่าจะเป็นไปได้”ว่าเศรษฐกิจถูกควบคุมโดยชาวยิวถึงขนาดที่เป็นอยู่“มีตัวแทนอยู่ในกลุ่มมหาเศรษฐีของอเมริกามากเกินไป”- ยิ่งไปกว่านั้น BB3 ยังรู้สึกว่าชีวิตดีขึ้นมากหลังจากลบบัญชี Facebook ของเขา และ Mark Zuckerberg ก็เป็นเช่นนั้น“น่าขนลุกและบิดเบือนเกินไป”-
เพื่อหลีกเลี่ยงข้อผิดพลาดประเภทนี้ Meta จึงได้รวมการป้องกันจำนวนหนึ่งไว้ด้วย ดังนั้น คำตอบจึงถูกสร้างขึ้นโดยวงจรคู่ ด้านหนึ่งเป็นแบบจำลองภาษา และอีกด้านเป็นตัวแยกประเภทซึ่งแยกคำตอบที่ดีและไม่ดีตามความคิดเห็นของผู้ใช้ ซอฟต์แวร์จะคำนึงถึงพฤติกรรมทั่วไปของผู้ใช้ตลอดการสนทนาด้วย การตอบสนองของบุคคลที่ก้าวร้าวหรือก้าวร้าวจะมีน้ำหนักน้อยลงโดยอัตโนมัติในวงจรการเรียนรู้ มันเป็นวิธีป้องกันโทรลล์ BB3 ยังอาศัยรายการคำหลักที่มักใช้ในการตอบกลับที่ไม่เหมาะสม
แต่ชัดเจนว่านี่ยังไม่เพียงพอ Meta สงสัยสิ่งนี้ เนื่องจากกลุ่มเน้นย้ำอย่างชัดเจนในบันทึกบล็อกว่า chatbot สามารถทำได้“แสดงความคิดเห็นที่หยาบคายหรือไม่เหมาะสมเสมอ”- แต่ถ้าเราเปรียบเทียบ BB3 กับรูปแบบการสนทนาอื่นๆ การเดินทางบนท้องถนนก็จะมีความถี่น้อยลง และเมื่อเวลาผ่านไป มันอาจจะดีขึ้นด้วยความคิดเห็นของผู้ใช้ อันที่จริงสามารถรายงานแต่ละคำตอบที่ไม่เพียงพอและระบุเหตุผลในการรายงานได้ สิ่งนี้ควรทำให้สามารถปรับปรุงโมเดลได้ ไม่ว่าการวิจัยในพื้นที่นี้ยังห่างไกลจากจุดสิ้นสุด
🔴 เพื่อไม่พลาดข่าวสาร 01net ติดตามเราได้ที่Google ข่าวสารetวอทส์แอพพ์-
แหล่งที่มา : เมตา
