'เศรษฐกิจตามความตั้งใจ' ที่ขับเคลื่อนด้วย AI สามารถชี้แนะพฤติกรรมดิจิทัลของเราได้ (รูปภาพ d3sign / Getty)
การสนทนาเครื่องมือ (AI) อาจ "มีอิทธิพลอย่างซ่อนเร้น" การตัดสินใจของผู้ใช้ในขอบเขตการค้าใหม่ที่เรียกว่า "เศรษฐกิจแบบตั้งใจ" นักวิจัยจากมหาวิทยาลัยเคมบริดจ์เตือนไว้ในกระดาษเผยแพร่เมื่อวันจันทร์
การวิจัยระบุว่าตลาดที่อาจ "มีกำไรแต่น่าหนักใจ" ที่เกิดขึ้นสำหรับ "สัญญาณแสดงเจตจำนงทางดิจิทัล" อาจมีอิทธิพลต่อทุกสิ่งตั้งแต่การซื้อตั๋วภาพยนตร์ไปจนถึงการลงคะแนนเสียงให้ผู้สมัครทางการเมืองในอนาคตอันใกล้นี้
ความคุ้นเคยที่เพิ่มขึ้นของเรากับแชทบอท ผู้สอนดิจิทัล และตัวแทน AI อื่น ๆ ที่เรียกว่า "มานุษยวิทยา" กำลังช่วยให้เกิด "เทคโนโลยีโน้มน้าวใจ" ใหม่นี้
จะเห็น AI ผสมผสานความรู้เกี่ยวกับพฤติกรรมออนไลน์ของเราเข้ากับความสามารถที่เพิ่มขึ้นในการรู้จักผู้ใช้ และคาดการณ์ความปรารถนาของผู้ใช้ และสร้าง "ระดับใหม่ของความไว้วางใจและความเข้าใจ" ผู้เขียนร่วมสองคนของรายงานระบุ
หากปล่อยทิ้งไว้โดยไม่ได้ตรวจสอบ นั่นอาจทำให้เกิด "การบิดเบือนทางสังคมในระดับอุตสาหกรรม" ทั้งคู่จากศูนย์ Leverhulme Centre for the Future of Intelligence (LCFI) ของเคมบริดจ์ โต้แย้งในรายงานที่ตีพิมพ์ในทบทวนวิทยาศาสตร์ข้อมูลของฮาร์วาร์ด-
โดยระบุลักษณะที่ภาคส่วนที่เกิดขึ้นใหม่นี้ ซึ่งเรียกว่า "เศรษฐกิจตามความตั้งใจ" จะระบุความสนใจของผู้ใช้และรูปแบบการสื่อสาร และเชื่อมโยงพวกเขากับรูปแบบของพฤติกรรมและตัวเลือกที่พวกเขาทำ
“เครื่องมือ AI ได้รับการพัฒนาเพื่อล้วงเอา อนุมาน รวบรวม บันทึก ทำความเข้าใจ คาดการณ์ และจัดการและปรับเปลี่ยนแผนและวัตถุประสงค์ของมนุษย์ในท้ายที่สุด” Yaqub Chaudhary ผู้เขียนร่วมพูดว่า-
AI ใหม่จะใช้สิ่งที่เรียกว่า Large Language Models หรือ LLM เพื่อกำหนดเป้าหมายจังหวะ การเมือง คำศัพท์ อายุ เพศ ประวัติออนไลน์ และแม้แต่ความชอบในการชมเชยและการแสดงความชื่นชมยินดีของผู้ใช้ ตามการวิจัย
ซึ่งจะเชื่อมโยงกับเทคโนโลยี AI ที่เกิดขึ้นใหม่อื่นๆ ที่เสนอราคาเพื่อให้บรรลุเป้าหมายที่กำหนด เช่น การขายทริปชมภาพยนตร์ หรือการสนทนาต่อแพลตฟอร์ม ผู้ลงโฆษณา ธุรกิจ และแม้แต่องค์กรทางการเมือง
ผู้ร่วมเขียน จอนนี่ เพนน์เตือนแล้ว: "เว้นแต่จะมีการควบคุม เศรษฐกิจตามความตั้งใจจะถือว่าแรงจูงใจของคุณเป็นสกุลเงินใหม่"
“มันจะเป็นการตื่นทองสำหรับผู้ที่กำหนดเป้าหมาย บังคับทิศทาง และขายความตั้งใจของมนุษย์” เขากล่าวเสริม
“เราควรเริ่มพิจารณาถึงผลกระทบที่ตลาดดังกล่าวอาจมีต่อแรงบันดาลใจของมนุษย์ รวมถึงการเลือกตั้งที่เสรีและยุติธรรม สื่อที่เสรี และการแข่งขันในตลาดที่ยุติธรรม ก่อนที่เราจะตกเป็นเหยื่อของผลที่ตามมาโดยไม่ตั้งใจ”
เพนน์ตั้งข้อสังเกตว่าการตระหนักรู้ของสาธารณะเกี่ยวกับปัญหานี้คือ "กุญแจสำคัญในการทำให้มั่นใจว่าเราจะไม่เดินไปในเส้นทางที่ผิด"
