เหตุใด 'My AI' ซึ่งเป็นแชทบอทที่ขับเคลื่อนด้วย AI ของ Snapchat จึงอาจถูกแบนในสหราชอาณาจักรในไม่ช้า

Snapchat จะเปิดตัว "My AI" ซึ่งจะทำให้ "ไม่สามารถประเมินความเสี่ยงเกี่ยวกับชีวิตส่วนตัวได้อย่างถูกต้อง" ของผู้ใช้หลายล้านคน ซึ่งในจำนวนนี้เป็นผู้เยาว์จำนวนมาก - CNIL ของอังกฤษประเมิน เครือข่ายโซเชียลเสี่ยงต่อการถูกปรับจำนวนมาก หรือแม้กระทั่งถูกแบนทั่วทั้งช่อง

“AI ของฉัน”, thechatbot ขับเคลื่อนโดย ChatGPTของ Snapchat เปิดตัวเร็วเกินไปหรือเปล่า? นี่คือความคิดเห็นของ ICO (“สำนักงานคณะกรรมการสารสนเทศ) British CNIL เผยแพร่เมื่อวันที่ 6 ตุลาคม ในสหราชอาณาจักร หน่วยงานที่รับประกันเสรีภาพนี้จะพิจารณาเรื่องนี้สแนปแชทจะมี “ไม่สามารถประเมินความเสี่ยงด้านความเป็นส่วนตัวได้อย่างเหมาะสม» ของผู้ใช้หลายล้านคน ก่อนที่จะเสนอแชทบอทนี้

เมื่อเดือนกุมภาพันธ์ที่ผ่านมา Snap ซึ่งเป็นบริษัทแม่ของ Snapchat ได้เปิดตัวฟีเจอร์ "My AI" สำหรับสมาชิก Snapchat+ ในอังกฤษ ก่อนที่จะขยายไปยังผู้ใช้ทั้งหมดในประเทศในเดือนเมษายน 2023บริษัทเป็นเครือข่ายโซเชียลแห่งแรกที่ใช้ฟีเจอร์แชทบอตที่ขับเคลื่อนด้วย AI ซึ่งก็คือแชทบอตนำเสนอเป็นเพื่อนเสมือนของผู้ใช้ ในเดือนพฤษภาคม พ.ศ. 2566 มีผู้เยี่ยมชมเครือข่ายโซเชียลนี้เกือบ 21 ล้านคนเป็นประจำ บางคนเป็นผู้เยาว์อายุ 13 ถึง 17 ปี และตามเดอะการ์เดียนผู้ใช้ครึ่งหนึ่งในช่องมีอายุต่ำกว่า 24 ปี

Snap ปฏิบัติตาม Children Design Code หรือไม่

อย่างไรก็ตาม ก่อนที่จะนำเสนอฟังก์ชันแชทบอตที่ขับเคลื่อนโดยเทคโนโลยี GPT ของ OpenAI แพลตฟอร์มดังกล่าวควรดำเนินการการประเมินความเสี่ยงที่เหมาะสม เจ้าหน้าที่กล่าวในความเห็นของมัน British CNIL มีเป้าหมายโดยเฉพาะอย่างยิ่งในการปกป้องข้อมูล โดยเฉพาะอย่างยิ่งผู้เยาว์ ผู้ใช้จำนวนมากของเครือข่ายโซเชียลนี้ หน่วยงานไม่ได้ให้รายละเอียดเพิ่มเติมเกี่ยวกับสิ่งที่อาจได้รับการประเมินไม่ดีหรือมีการป้องกันที่ไม่ดี: แพลตฟอร์มรวบรวมข้อมูลจากผู้เยาว์มากเกินไปหรือไม่? ความยินยอมของผู้ใช้ผู้เยาว์ควรได้รับความคุ้มครองเพิ่มเติมหรือไม่ ตามที่บีบีซีCNIL ของอังกฤษขอรับรองว่า “เอไอของฉัน» ขอแสดงความนับถือ “รหัสการออกแบบเด็ก» ซึ่งเป็นกฎหมายที่มุ่งปกป้องข้อมูลของเด็กทางออนไลน์

หากประกาศนี้ไม่ครอบคลุมถึงการร้องทุกข์ที่ส่งถึง Snap, Inc. และ Snap Group Limited ก็ยังคงมีประกาศ "เบื้องต้น": โซเชียลเน็ตเวิร์กของอเมริกาสามารถตอบสนองต่อหน่วยงานดังกล่าวได้จนถึงวันที่ 27 ตุลาคม ซึ่งอาจมีการเปลี่ยนแปลงเงื่อนไขการใช้งานทั่วไป . หาก ICO พิจารณาว่าการตอบสนองนั้นไม่เพียงพอ ก็อาจออกความเห็นที่ชัดเจนว่าบริษัทควร “หยุดการประมวลผลข้อมูลที่เกี่ยวข้องกับ “My AI”- การแปล: Snap จะไม่สามารถให้บริการ “My AI” แก่ผู้ใช้ในสหราชอาณาจักรได้อีกต่อไป จนกว่าจะมีการประเมินความเสี่ยงที่เหมาะสม เขาอาจต้องจ่ายค่าปรับที่สูงลิ่ว ซึ่งอาจสูงถึง 4% ของมูลค่าการซื้อขายทั่วโลกของเขา

“เราจะดำเนินการเพื่อปกป้องสิทธิ์ความเป็นส่วนตัวของผู้บริโภคในสหราชอาณาจักร”

ถามโดยเพื่อนร่วมงานของเราจากสำนักข่าวรอยเตอร์Snap กล่าวว่าประกาศดังกล่าวอยู่ระหว่างการตรวจสอบ ตามที่โฆษกคนหนึ่งกล่าวว่า “(ลคุณสมบัติ) “My AI” ผ่านกระบวนการตรวจสอบทางกฎหมายและความเป็นส่วนตัวที่เข้มงวดก่อนที่จะเผยแพร่สู่สาธารณะ เราจะทำงานอย่างสร้างสรรค์กับ ICO ต่อไปเพื่อให้แน่ใจว่าพวกเขาพอใจกับขั้นตอนการประเมินความเสี่ยงของเรา-

หน่วยงานที่รับประกันเสรีภาพทั่วทั้ง Channel เล่าว่านักพัฒนา AI ต้องเคารพภาระหน้าที่ของตนในแง่ของการปกป้องข้อมูลตั้งแต่เริ่มต้น ก่อนที่จะเปิดตัวผลิตภัณฑ์ของตน -องค์กรเหล่านี้ต้องคำนึงถึงความเสี่ยงที่เกี่ยวข้องกับ AI รวมถึงประโยชน์ของ AI ด้วย ประกาศเบื้องต้น (...) แสดงให้เห็นว่าเราจะดำเนินการเพื่อปกป้องสิทธิ์ความเป็นส่วนตัวของผู้บริโภคในสหราชอาณาจักร" จอห์น เอ็ดเวิร์ดส์ กรรมาธิการข้อมูล อธิบายโดยอ้างถึงในประกาศของผู้มีอำนาจ

“ลักษณะที่ล่วงล้ำ” การลบบัญชีสำหรับผู้ที่อายุต่ำกว่า 13 ปี ข้อผิดพลาด ฯลฯ

นับตั้งแต่เปิดตัว “My AI” ก็ได้รับการวิพากษ์วิจารณ์มากมายการก้าวก่ายตามผู้ใช้บางคน อย่างหลังตระหนักได้ด้วยการเปิดตัวแชทบอตที่เสริมด้วย AI ของ Snap ว่าเครื่องมือนี้ใช้ข้อมูลส่วนบุคคลจำนวนมาก (เช่น ตำแหน่ง) การรวบรวมข้อมูลนี้จัดทำขึ้นตามเงื่อนไขทั่วไปของ Snap แต่ผู้ใช้ไม่จำเป็นต้องตระหนักถึงเรื่องนี้มาก่อน

อ่านเพิ่มเติม:Snapchat เพิ่มโฆษณาใน ChatGPT และไม่สนใจข้อโต้แย้ง

Snap ยังอยู่ในสายตาของทางการอังกฤษตั้งแต่ช่วงฤดูร้อนนี้สำหรับไฟล์อื่น ICO ตั้งคำถามว่าเครือข่ายโซเชียลกำลังดำเนินการเพียงพอที่จะลบบัญชีของผู้ใช้ที่มีอายุต่ำกว่า 13 ปีออกจากแพลตฟอร์มหรือไม่ โดยปกติคุณจะต้องอายุ 13 ปีขึ้นไปจึงจะสามารถใช้เครือข่ายโซเชียลได้ แต่แตกต่างจาก TikTok ที่ลบบัญชีหลายพันบัญชีในแต่ละเดือน Snapchat จะทำให้ใช้งานไม่ได้เพียงประมาณสิบบัญชีเท่านั้น อธิบายเมื่อเดือนมีนาคมที่ผ่านมาเพื่อนร่วมงานของเราที่สำนักข่าวรอยเตอร์-

ในที่สุดแพลตฟอร์มก็ถูกวิพากษ์วิจารณ์ว่า “ข้อผิดพลาด» หรือ “คำแนะนำที่ไม่เหมาะสม» ของแชทบอท บริษัทตระหนักดีว่า ““AI ของฉัน” อาจตอบสนองไม่ถูกต้อง ให้คำตอบที่ลำเอียง หรือบ่งชี้ว่าไม่แน่ใจในคำตอบ”- บริษัทถึงกับเตือนว่าไม่จำเป็น“เชื่อคำแนะนำของเขา-