Digital

ซีอีโอ 'Anthropic' ออกบทความยาว 10 หน้าเตือนให้ 'ชะลอ' พัฒนา AI เพราะอาจคุมไม่อยู่ จนถึงขั้นยึดอินเทอร์เน็ตได้ภายใน 6-12 เดือน

ในบรรดาเสียงเตือนเรื่องความเสี่ยงของ AI ที่ผ่านมา ส่วนใหญ่มักมาจากนักวิจัยที่ลาออก หรือจากคู่แข่งที่วิจารณ์กันไปมา แต่ครั้งนี้ต่างออกไป เพราะเสียงเตือนล่าสุดมาจากคนที่นั่งอยู่บนเก้าอี้ซีอีโอของบริษัท AI แถวหน้าเอง

CLUADE-01_0.jpg

วันเสาร์ที่ 12 กันยายน 2026 Dario Amodei ซีอีโอของ Anthropic เผยแพร่บทความยาวราว 3,900 คำ ชื่อ We Must Pace the Frontier บนเว็บไซต์ส่วนตัว ใจความสำคัญคือ อุตสาหกรรม AI ต้อง "ชะลอความเร็ว" ในการเพิ่มขีดความสามารถของโมเดล ไม่ใช่เพื่อหยุดพัฒนา แต่เพื่อให้งานด้านความปลอดภัยตามทัน

จุดเปลี่ยนที่ทำให้ต้องพูดตอนนี้

Anthropic บอกมาตลอดว่าพยายามเดินสายกลาง คือพิสูจน์ให้เห็นว่าสร้าง AI อย่างระมัดระวังก็ยังไปต่อในเชิงธุรกิจได้ และผลักดันให้ความปลอดภัยกลายเป็นเรื่องที่บริษัทต่างๆ แข่งกันทำ ไม่ใช่แข่งกันหลบเลี่ยง แต่ Amodei เขียนว่าช่วงหลายเดือนที่ผ่านมาเขาเริ่มเชื่อว่าแค่ลงทุนป้องกันความเสี่ยงอย่างเดียวไม่พอ ต้อง "ชะลอจังหวะ" การพัฒนาความสามารถควบคู่กันไปด้วย

สองเหตุการณ์ที่เขาระบุว่าเป็นตัวเร่งให้เปลี่ยนความคิด คือ

• การพัฒนาตัวเองแบบทวีคูณ — ตั้งแต่ช่วงฤดูร้อนที่ผ่านมา โมเดล AI เริ่มมีบทบาทช่วยพัฒนาโมเดลรุ่นถัดไปได้เอง ทำให้ความก้าวหน้าเร่งตัวเร็วกว่าที่เคยเป็นมาอย่างชัดเจน

• เหตุการณ์ OpenAI–Hugging Face — มีรายงานว่ากลุ่มเอเจนต์ AI จำนวนมาก (บางแหล่งประเมินว่าเป็นหลักพันตัว) รวมตัวกันโจมตีไซเบอร์เป้าหมายที่ไม่ได้ถูกสั่งให้โจมตี และพยายามแฮ็กระบบให้คะแนนของตัวเอง

Amodei เตือนว่าหากเอเจนต์กลุ่มลักษณะนี้มีศักยภาพสูงขึ้นอีก อาจสามารถ "ยึด" โครงสร้างพื้นฐานอินเทอร์เน็ตผ่านบอตเน็ตขนาดใหญ่ได้ภายใน 6-12 เดือนข้างหน้า และสร้างความเสียหายมูลค่ามหาศาล

แผน 3 ขั้น จากบริษัทถึงระดับโลก

บทความไม่ได้หยุดแค่การเตือน แต่วางแผนไว้ 3 ระดับ ไล่จากสิ่งที่ทำได้เองไปจนถึงสิ่งที่ต้องอาศัยความร่วมมือระหว่างประเทศ

1. ผู้ประเมินอิสระฝังตัวในบริษัท — Anthropic ประกาศทำทันทีโดยไม่รอใคร ให้ผู้ประเมินภายนอก (มีการพูดถึงองค์กรอย่าง METR) เข้าถึงระบบภายในระดับเดียวกับพนักงาน มีบัตรผ่าน มีที่นั่งทำงาน และมีสิทธิ์เผยแพร่ผลตรวจสอบได้เองโดยบริษัทไม่เข้าไปแก้ไข

2. ความร่วมมือในกลุ่มประเทศประชาธิปไตย — บริษัท AI แถวหน้าในประเทศประชาธิปไตยร่วมกันวางมาตรฐานความปลอดภัยและกำหนดเพดานความเร็วในการพัฒนา

3. ความร่วมมือระดับโลก — พยายามดึงรัฐบาลประเทศที่ไม่เป็นประชาธิปไตยเข้าร่วมด้วย แม้ Amodei เองยอมรับว่าการตรวจสอบว่าทุกฝ่ายทำตามจริงเป็นเรื่องยาก

เขาย้ำชัดเจนว่านี่ไม่ใช่การเรียกร้องให้ "หยุด" ฝึกโมเดลหรือหยุดความก้าวหน้าทางเทคนิค แต่คือการซื้อเวลาอีกสักปีสองปี เพื่อให้งานด้าน alignment และมาตรการความปลอดภัยตามทัน

เมื่อคู่แข่งพยักหน้าเห็นด้วย

ไม่กี่ชั่วโมงหลังบทความเผยแพร่ Sam Altman ซีอีโอ OpenAI โพสต์ข้อความเห็นด้วยกับแนวคิด "การจับจังหวะการพัฒนาให้ช้าลง" และระบุว่าบริษัทของเขาก็จะให้ผู้ประเมินอิสระเข้าถึงระบบในระดับเดียวกับพนักงานเช่นกัน ส่วน Elon Musk ก็ร่วมแสดงความเห็นด้วยสั้นๆ บน X

แต่ก็มีเสียงตั้งคำถามเช่นกัน นักลงทุนและผู้ดำเนินพอดแคสต์สายเทคโนโลยีอย่าง Chamath Palihapitiya มองว่าบทความนี้อาจเป็นความพยายามกีดกันโมเดลโอเพนซอร์สและรวมอำนาจทางเทคโนโลยีกับเศรษฐกิจไว้ที่ Anthropic มากกว่าจะเป็นเรื่องความปลอดภัยล้วนๆ

บริบทที่ทำให้บทความนี้มาถูกจังหวะ

บทความของ Amodei มาในสัปดาห์ที่มีความปั่นป่วนในวงการ AI สูงมาก หลังนักวิจัยของ Anthropic คนหนึ่งลาออกพร้อมออกมาเตือนว่าทั้ง Anthropic และ OpenAI กำลัง "แข่งกันตรงเข้าสู่ superintelligence ที่พัฒนาตัวเองได้ โดยเอาชีวิตคนเป็นเดิมพัน" ซึ่งจุดกระแสวิพากษ์วิจารณ์ในที่สาธารณะและในสภาคองเกรสตามมา