ชื่อเช่นผู้ร่วมก่อตั้งแอปเปิลและแม้แต่เจ้าชายแฮร์รี่ก็ได้ลงนามในจดหมายเพื่อห้าม AGI การทำความเข้าใจถึงความเสี่ยง และเหตุผลที่ Meta เพิกเฉยต่อการแจ้งเตือน
微信分享
打开微信，扫描下方二维码。
จินตนาการถึงจิตใจที่เฉียบแหลมกว่าที่เคยมีมา ตอนนี้ลองนึกถึงบางสิ่งที่ฉลาดกว่านั้นเป็นล้านเท่า ที่สามารถเรียนรู้ได้ด้วยตนเองโดยไม่มีข้อจำกัด นี่คือคำมั่นสัญญา – และภัยคุกคาม – ของ ปัญญาประดิษฐ์ขั้นสูง (Superintelligence) เทคโนโลยีที่กำลังแบ่งโลกออกเป็นสองฝ่าย ระหว่างผู้ที่มองว่ามันเป็นความหวังรอดของเรา และผู้ที่กลัวว่ามันอาจเป็นความผิดพลาดครั้งสุดท้ายของเรา ความตึงเครียดได้ถึงจุดเดือดแล้ว
การเตือนภัยทั่วโลกเกี่ยวกับการเบรกฉุกเฉิน
ขบวนการที่ไม่เคยมีมาก่อนนี้กำลังได้รับความสนใจอย่างกว้างขวาง นักวิทยาศาสตร์หลายร้อยคน ผู้นำด้านเทคโนโลยี และบุคคลสาธารณะ ได้ลงนามในจดหมายเปิดผนึกพร้อมคำขอที่ชัดเจนและเร่งด่วน: สั่งห้ามการพัฒนาปัญญาประดิษฐ์ขั้นสูง (Superintelligence) หรือที่รู้จักในชื่อ ปัญญาประดิษฐ์ทั่วไป (AGI) ซึ่งจัดโดย Future of Life Institute เอกสารนี้มีผู้ลงนามแล้วกว่า 850 รายที่มีอิทธิพล
ในบรรดาผู้ลงนามมีชื่อที่สร้างโลกดิจิทัลที่เราอาศัยอยู่ในปัจจุบัน Geoffrey Hinton ซึ่งหลายคนขนานนามว่าเป็น “ปู่ของ AI” และเป็นผู้ได้รับรางวัลโนเบล อยู่ในรายชื่อนี้ ร่วมกับ Steve Wozniak ผู้ร่วมก่อตั้ง Apple ความกังวลนี้ได้ขยายวงกว้างออกไปนอกซิลิคอนแวลลีย์ โดยได้รับการสนับสนุนจากบุคคลอย่างเจ้าชายแฮร์รี่และเมแกน มาร์เคิล
คำเรียกร้องนั้นชัดเจน: สั่งห้ามการพัฒนา AGI จนกว่าจะมีฉันทามติทางวิทยาศาสตร์เกี่ยวกับความปลอดภัยของมัน และมีข้อตกลงระดับโลกเกี่ยวกับวิธีการควบคุมมัน ความกลัวหลักคือ AI นี้จะไม่ใช่แค่เครื่องมือที่เล่นหมากรุกหรือสร้างภาพเหมือน AI ในปัจจุบัน แต่จะเป็นหน่วยงานอิสระที่มีความสามารถในการเรียนรู้และคิดวิเคราะห์เหนือมนุษย์ เมื่อเปิดใช้งานแล้ว มันอาจพัฒนาไปอย่างรวดเร็วจนไม่อาจเข้าใจได้ อาจหลบหนีการควบคุมของเรา และนำไปสู่ผลลัพธ์ที่เลวร้ายอย่างรุนแรง
ปริศนาของ Meta: การปลดคนงานเพื่อเร่งความเร็ว?
ในขณะที่ผู้เชี่ยวชาญเรียกร้องให้ใช้ความระมัดระวัง ยักษ์ใหญ่ด้านเทคโนโลยีอย่าง Meta กลับดูเหมือนกำลังแข่งขันฟอร์มูล่า 1 โดยเหยียบคันเร่งจนมิด Meta ของ Mark Zuckerberg ได้สร้างความสับสนให้กับตลาดด้วยการเคลื่อนไหวล่าสุด บริษัทได้ปลดพนักงานประมาณ 600 คนจากแผนกชั้นนำ “Super Intelligence Labs” ซึ่งเน้นการสร้างปัญญาประดิษฐ์ขั้นสูงโดยเฉพาะ
ในการประกาศภายใน หัวหน้ากลุ่มได้ให้เหตุผลว่าการลดขนาดทีมจะช่วยให้การตัดสินใจรวดเร็วขึ้น แนวคิดคือพนักงานแต่ละคนจะมีความรับผิดชอบและมีผลกระทบมากขึ้น คล้ายกับปรัชญาที่อยู่เบื้องหลังวิธีที่ เมอร์เซเดสสามารถสร้างเครื่องยนต์ที่ทรงพลังสูงสุดด้วยน้ำหนักที่เบาที่สุด
อย่างไรก็ตาม ความขัดแย้งนั้นชัดเจน ในขณะที่ลดขนาดทีม Meta กลับกำลังรับสมัครพนักงานจำนวนมากสำหรับห้องปฏิบัติการ AI ใหม่ แหล่งข่าวภายในระบุว่า Zuckerberg เองไม่พอใจกับความคืบหน้าของบริษัท และยังคงผลักดันให้การสร้างปัญญาประดิษฐ์ขั้นสูงเป็นลำดับความสำคัญสูงสุด ฉากนี้สะท้อนความตึงเครียด: ระหว่างความกลัวในสิ่งที่ไม่รู้ กับความโลภที่จะไปให้ถึงขีดจำกัดสูงสุดของเทคโนโลยี
ความแตกต่างที่สำคัญ: ปัญญาประดิษฐ์ทั่วไป (AGI) คืออะไร?
เพื่อให้เข้าใจขนาดของความเสี่ยง จำเป็นต้องแยกแยะระหว่าง AI ที่ใช้งานอยู่ในปัจจุบันกับ AGI ที่กำลังถูกเรียกร้องให้สั่งห้าม
- AI ปัจจุบัน (แบบจำกัด): เป็นเหมือนเครื่องมือเฉพาะทาง เช่น ChatGPT เก่งด้านข้อความ แต่ขับรถไม่ได้ Waze เก่งเรื่องเส้นทาง แต่แต่งเพลงไม่ได้ มันทรงพลังในขอบเขตของตนเอง แต่มีข้อจำกัด
- ปัญญาประดิษฐ์ทั่วไป (AGI): จะเหมือนกับจิตใจสากล มันไม่เพียงแต่ทำงานตามหน้าที่ต่าง ๆ เท่านั้น แต่จะเรียนรู้ทักษะทางปัญญาทั้งหมดของมนุษย์ และทำได้เร็วกว่ามาก มันสามารถวางกลยุทธ์ สร้างเทคโนโลยีใหม่ ๆ และปรับปรุงตนเองได้แบบทวีคูณอย่างต่อเนื่อง
ความสามารถในการประมวลผลแบบทวีคูณนี้คือสิ่งที่น่าหวาดกลัว การก้าวกระโดดที่เทียบเคียงได้กับ ‘เครื่องยนต์ควอนตัม’ ที่ Google สัญญาไว้สำหรับอนาคตของยานยนต์ ความเป็นอิสระของ AGI ซึ่งสามารถทำงานได้โดยไม่ต้องมีการกำกับดูแล เป็นประเด็นหลักของการอภิปราย ซึ่งสะท้อนการพูดคุยเกี่ยวกับ ความกังวลเรื่องความเป็นอิสระในรถยนต์สมัยใหม่ เกรงว่าระดับพลังการประมวลผลที่เทียบเท่ากับ ‘สัตว์ร้าย ไฮบริดที่ซ่อนอยู่ในโรงรถ’ ของสิ่งมีชีวิตดิจิทัลใหม่นี้ อาจไม่ได้แชร์ค่านิยมและเป้าหมายของเรา ในขณะที่บางคนเรียกร้องให้สั่งห้าม อีกกลุ่มมองว่า AGI คือการปฏิวัติครั้งใหญ่ครั้งต่อไปที่จะพลิกโฉมโลกเทคโนโลยีอย่างรุนแรงเช่นเดียวกับ เครื่องยนต์เบนซินประสิทธิภาพสูงที่ท้าทายยุคของไฟฟ้า
ชะตากรรมของมนุษยชาติหรือตัวเรากำลังยืนอยู่บนทางแยกทางประวัติศาสตร์ ด้านหนึ่งคือหลักการระมัดระวัง ซึ่งได้รับการสนับสนุนจากสมองที่ยอดเยี่ยมที่สุดในยุคของเรา อีกด้านคือความทะเยอทะยานของบริษัทต่าง ๆ ที่กำลังกำหนดอนาคตของเรา เรากำลังมุ่งหน้าสู่การสร้างสรรค์ที่ยิ่งใหญ่ที่สุดของมนุษย์ หรือกำลังจะเกิดความผิดพลาดครั้งสุดท้ายของเรา? การแข่งขันได้เริ่มต้นขึ้นแล้ว และเวลากำลังเดินหน้าไป
微信分享
打开微信，扫描下方二维码。
Author: Fabio Isidoro
ผู้ก่อตั้งและบรรณาธิการบริหารของ Canal Carro เขาอุทิศตนเพื่อสำรวจจักรวาลยานยนต์อย่างลึกซึ้งและเปี่ยมด้วยความรัก เขาเป็นผู้หลงใหลในรถยนต์และเทคโนโลยี เขาผลิตเนื้อหาทางเทคนิคและบทวิเคราะห์เชิงลึกเกี่ยวกับยานยนต์ทั้งในประเทศและต่างประเทศ ผสมผสานข้อมูลคุณภาพเข้ากับมุมมองเชิงวิพากษ์วิจารณ์ที่เข้าถึงสาธารณชน
