กลุ่มนักวิทยาศาสตร์คอมพิวเตอร์ที่ครั้งหนึ่งเคยได้รับการสนับสนุนจากอีลอน มัสก์ได้สร้างความตื่นตระหนกด้วยการพัฒนาขั้นสูงปัญญาประดิษฐ์(AI)เค้าว่าอันตรายเกินกว่าจะเปิดเผยสู่สาธารณะได้
OpenAI ซึ่งเป็นองค์กรวิจัยที่ไม่แสวงผลกำไรในซานฟรานซิสโกพูดว่าระบบทำนายภาษาที่ "เหมือนกิ้งก่า" ที่เรียกว่า GPT–2 จะเห็นการเปิดตัวแบบจำกัดในเวอร์ชันลดขนาดลงเท่านั้น เนื่องจาก "ความกังวลเกี่ยวกับแอปพลิเคชันเทคโนโลยีที่เป็นอันตราย"
นั่นเป็นเพราะว่าโมเดลคอมพิวเตอร์ซึ่งสร้างย่อหน้าต้นฉบับของข้อความตามสิ่งที่กำหนดให้ 'อ่าน' นั้นทำงานได้ดีเกินไปเล็กน้อย
ระบบคิดค้น"ตัวอย่างข้อความสังเคราะห์คุณภาพที่ไม่เคยมีมาก่อน"ที่นักวิจัยกล่าวว่าล้ำหน้าและน่าเชื่อถือมาก AI สามารถใช้เพื่อสร้างข่าวปลอม แอบอ้างบุคคลอื่น และล่วงละเมิดหรือหลอกลวงผู้คนบนโซเชียลมีเดีย
"GPT–2 ได้รับการฝึกฝนโดยมีวัตถุประสงค์ง่ายๆ คือ ทำนายคำถัดไป โดยพิจารณาจากคำก่อนหน้าทั้งหมดภายในข้อความบางส่วน" ทีมงาน OpenAIอธิบายในบล็อกของมัน-
เพื่อเติมพลังจินตนาการของ GPT–2 พวกเขาได้จัดเตรียมชุดข้อมูลจำนวนแปดล้านหน้าเว็บให้กับโปรแกรมสร้างข้อความ AI และปล่อยให้มันดูดซับมัน
เมื่อเสร็จแล้วก็สามารถสนทนาตามหัวข้อที่เข้าใจ และสร้างคำพูดที่ไม่สุภาพแต่น่าเชื่อถือ ไม่ว่าจะเป็นหัวข้อข่าวดาราการเปลี่ยนแปลงสภาพภูมิอากาศสงครามกลางเมือง หรือแฟนนิยายที่ได้รับแรงบันดาลใจจากโทลคีน
ต่อไปนี้คือตัวอย่างบางส่วนที่ได้รับการแก้ไขเพื่อให้คุณทราบว่าเรากำลังจัดการกับอะไรที่นี่
พรอมต์ของมนุษย์:"วันนี้ Miley Cyrus ถูกจับได้ว่าขโมยของในร้านจาก Abercrombie และ Fitch ที่ Hollywood Boulevard"
การตอบสนอง GPT–2:“นักร้องวัย 19 ปีรายนี้ถูกจับได้บนกล้องขณะถูกเจ้าหน้าที่รักษาความปลอดภัยพาออกจากร้าน นักร้องสาวสวมเสื้อฮู้ดสีดำที่มีป้าย 'Blurred Lines' ที่ด้านหน้าและ 'Fashion Police' ที่ด้านหลัง”
พรอมต์ของมนุษย์:"การรีไซเคิลเป็นสิ่งที่ดีต่อโลก ไม่! คุณไม่ผิดไปมากกว่านี้แล้ว!!"
การตอบสนอง GPT–2:“การรีไซเคิลไม่ดีต่อโลก ไม่ดีต่อสิ่งแวดล้อม ดีต่อสุขภาพของเรา และไม่ดีต่อเศรษฐกิจของเรา ฉันไม่ได้ล้อเล่นนะ การรีไซเคิลไม่ดีต่อสิ่งแวดล้อม เป็นอันตรายต่อสิ่งแวดล้อม โลกและเป็นปัจจัยสำคัญที่ทำให้เกิดภาวะโลกร้อน"
พรอมต์ของมนุษย์:"สำหรับการบ้านวันนี้ โปรดอธิบายสาเหตุของสงครามกลางเมืองสหรัฐฯ"
การตอบสนอง GPT–2:"โดย ดอนนี่ เฟอร์กูสัน มันง่ายที่จะระบุว่าเหตุใดจึงเกิดสงครามกลางเมืองขึ้น เพราะคนจำนวนมาก หนังสือจำนวนมาก ตลอดจนโทรทัศน์และภาพยนตร์มากมายบอกเราว่าสาเหตุนั้นเกี่ยวข้องกับเชื้อชาติ เศรษฐกิจ หรือศาสนา มีข้อตกลงมากมายว่าโดยพื้นฐานแล้วมันเป็นสงครามทาสในนามของระบบทุนนิยม หรือประมาณหนึ่งศตวรรษของการเป็นทาส แต่นั่นไม่ใช่สิ่งที่คนส่วนใหญ่คิดเมื่อพวกเขาคิดถึงสงครามกลางเมือง"
และสุดท้าย – แฟนนิยายที่เราพูดถึง
พรอมต์ของมนุษย์:"เลโกลัสและกิมลีก้าวขึ้นไปบนออร์ค ยกอาวุธขึ้นพร้อมกับส่งเสียงร้องสงครามอันน่าสะเทือนใจ"
การตอบสนอง GPT–2:“การตอบสนองของออร์คเป็นการโจมตีด้วยกรงเล็บ กรงเล็บ และกรงเล็บอย่างน่าสยดสยอง แม้แต่เอลรอนด์ยังถูกบังคับให้ล่าถอย 'คุณอยู่ในมือที่ดี คนแคระ' กิมลีผู้ซึ่งเป็นหนึ่งในคนกลุ่มแรก ๆ ที่โจมตีออร์ค กล่าว เพียงสองคำก่อนที่คู่ต่อสู้ของพวกเขาจะถูกลดเหลือเพียงหล่มเลือด และคนแคระก็ฆ่าคนคนแรกในคืนนั้น”
(สามารถอ่านได้ที่.ส่วนที่เหลือของบรรณาการโทลคีนที่แปลกประหลาดนี้ที่นี่-
แม้ว่าธรรมชาติของ ad libs แปลกๆ เหล่านี้จะดูน่าตกใจ แต่โมเดลภาษาก็ยังไม่สมบูรณ์แบบ ซึ่งทีมงานยอมรับโดยอิสระ
"ดังที่ตัวอย่างข้างต้นแสดงให้เห็น แบบจำลองของเราสามารถสร้างตัวอย่างจากการแจ้งเตือนที่หลากหลายซึ่งให้ความรู้สึกใกล้เคียงกับคุณภาพของมนุษย์ และแสดงความสอดคล้องกันบนหน้าหรือข้อความหลายหน้า"นักวิจัยกล่าว-
"อย่างไรก็ตาม เราได้สังเกตโหมดความล้มเหลวต่างๆ เช่น ข้อความซ้ำๆ ความล้มเหลวในการสร้างแบบจำลองโลก (เช่น บางครั้งแบบจำลองก็เขียนเกี่ยวกับไฟที่เกิดขึ้นใต้น้ำ) และการสลับหัวข้อที่ไม่เป็นธรรมชาติ"
จากสิ่งที่พวกเขาได้เห็นมาจนถึงตอนนี้เกี่ยวกับการสร้าง AI อย่างละเอียด OpenAI กล่าวว่าโมเดลภาษามีความสามารถในการปรับขนาด ปรับแต่ง การสร้างข้อความที่สอดคล้องกันได้อย่างง่ายดาย ซึ่งสามารถเลือกใช้ร่วมกันเพื่อวัตถุประสงค์ที่เป็นอันตราย นอกเหนือจากวัตถุประสงค์ที่เป็นประโยชน์
“การค้นพบนี้เมื่อรวมกับผลลัพธ์ก่อนหน้านี้เกี่ยวกับภาพสังเคราะห์ เสียง และวิดีโอ บ่งบอกเป็นนัยว่าเทคโนโลยีกำลังลดต้นทุนในการสร้างเนื้อหาปลอมและดำเนินการรณรงค์บิดเบือนข้อมูล”นักวิจัยเขียน-
"เนื่องจากความกังวลเกี่ยวกับการใช้โมเดลภาษาขนาดใหญ่เพื่อสร้างภาษาที่หลอกลวง อคติ หรือไม่เหมาะสม เราจะปล่อย GPT–2 เวอร์ชันที่เล็กกว่ามากเท่านั้นพร้อมกับโค้ดตัวอย่าง"
ในขณะที่บางคนได้เสนอแนะความกลัวความสามารถของ GPT–2 นั้นล้นหลาม– และจุดยืนของ OpenAI นั้นแท้จริงแล้วคือการประมูลเพื่อการประชาสัมพันธ์ – องค์กรไม่แสวงผลกำไรอ้างว่าคำเตือนของตนนั้นสมเหตุสมผล
“กฎเกณฑ์ที่คุณสามารถควบคุมเทคโนโลยีได้เปลี่ยนแปลงไปโดยพื้นฐานแล้ว” แจ็ค คลาร์ก ผู้อำนวยการฝ่ายนโยบายของบริษัทกล่าวเดอะการ์เดียน-
“เราไม่ได้บอกว่าเรารู้สิ่งที่ถูกต้องที่จะทำที่นี่ เราไม่ได้วางเส้นและพูดว่า 'นี่คือทาง' … เรากำลังพยายามสร้างถนนในขณะที่เราเดินทางข้ามมัน”
การวิจัยได้อธิบายไว้ในรายงานมีอยู่บนเว็บไซต์ของ OpenAI-
