หัวหน้าแผนกหุ่นยนต์ของ OpenAI ลาออก เตือนถึงการเฝ้าระวังด้วย AI ภายใต้สัญญาด้านการป้องกันประเทศ

Caitlin Kalinowski หัวหน้าแผนกหุ่นยนต์เดิมของ OpenAI ได้ลาออกจากตำแหน่งหลังจากทำงานให้กับบริษัทเพียงกว่าหนึ่งปีเล็กน้อย Kalinowski อ้างถึงความกังวลว่ากองทัพสหรัฐอาจใช้เครื่องมือ AI ของบริษัทเพื่อการเฝ้าระวังภายในประเทศและสำหรับระบบอัตโนมัติที่กำหนดเป้าหมายในอาวุธของสหรัฐ

Caitlin Kalinowski หัวหน้าแผนกฮาร์ดแวร์และวิศวกรรมหุ่นยนต์ของ OpenAI ได้ออกจากบริษัท AI หลังจากรับตำแหน่งตั้งแต่เดือนพฤศจิกายน 2024 Kalinowski ประกาศการลาออกของเธอในวันที่ 7 มีนาคม โดยอ้างถึงความกังวลเกี่ยวกับข้อตกลงที่บรรลุระหว่าง OpenAI และกระทรวงกลาโหมสหรัฐในเดือนกุมภาพันธ์ 

กองทัพสหรัฐจะใช้ AI เพื่อการเฝ้าระวังภายในประเทศ Kalinowski อ้าง

ตาม Kalinowski การลาออกของเธอเกิดจากความตั้งใจของกระทรวงกลาโหมสหรัฐที่จะใช้เครื่องมือและความสามารถของ AI เพื่อดำเนินการเฝ้าระวังพลเมืองสหรัฐโดยไม่มีการกำกับดูแลทางตุลาการ อัยการเดิมของ OpenAI เขียนบน X ว่า AI มีบทบาทสำคัญในความมั่นคงแห่งชาติ 

เธออธิบายว่ากระทรวงกลาโหมสหรัฐตั้งใจที่จะใช้ AI เพื่อการเฝ้าระวังและอาวุธอัตโนมัติ ซึ่งเป็นการตัดสินใจที่เธอไม่เห็นด้วย เธอกล่าวว่าการตัดสินใจของเธอ "เป็นเรื่องของหลักการ ไม่ใช่คน" และเธอภูมิใจในสิ่งที่ทีมงานที่ OpenAI สร้างขึ้นในช่วงเวลาที่เธออยู่กับบริษัท 

ในเดือนกุมภาพันธ์ เพนตากอนสหรัฐได้เร่งการเจรจากับบริษัท AI ชั้นนำเกี่ยวกับการปรับใช้โมเดลอัตโนมัติบนระบบที่เป็นความลับ Cryptopolitan รายงานว่าเพนตากอนกำลังผลักดันการเจรจากับ Anthropic และ OpenAI เพื่อรวมเครื่องมือ AI เข้ากับเครือข่ายทหารที่เป็นความลับ

Emil Michael หัวหน้าเจ้าหน้าที่เทคโนโลยีของเพนตากอน กล่าวในการประชุมที่ทำเนียบขาวกับผู้นำด้านเทคโนโลยีว่ากองทัพต้องการให้โมเดล AI ทำงานบนทั้งเครือข่ายที่เป็นความลับและไม่เป็นความลับโดยไม่มีข้อจำกัดหรือข้อห้าม

การเจรจาระหว่างรัฐบาลสหรัฐและ Anthropic ติดขัดเนื่องจากผู้นำของบริษัทได้วาดเส้นที่ชัดเจนว่าเทคโนโลยีของพวกเขาจะไม่ถูกใช้สำหรับการดำเนินการเฝ้าระวังภายในประเทศและระบบกำหนดเป้าหมายอาวุธอัตโนมัติ บริษัท ท้าทาย คำขาดของเพนตากอนที่จะปลดมาตรการป้องกัน AI ในปลายเดือนกุมภาพันธ์

CEO ของ Anthropic Dario Amodei ยืนหยัดในจุดยืนของเขา ปฏิเสธที่จะอนุญาต ให้เทคโนโลยีของบริษัทถูกใช้ในการปฏิบัติการทางทหาร เพื่อตอบโต้ Trump สั่งให้หน่วยงานของรัฐบาลกลางทั้งหมดหยุดใช้เทคโนโลยี Anthropic ในปลายเดือนกุมภาพันธ์ 

OpenAI กำหนดข้อจำกัดในการปรับใช้ AI ทางทหาร

กระทรวงกลาโหมบรรลุข้อตกลงกับ OpenAI ซึ่งได้รับการวิพากษ์วิจารณ์ตั้งแต่นั้นมา Sam Altman กล่าวถึง ว่าข้อตกลงดูค่อนข้างฉวยโอกาสและชี้แจงว่าบริษัทได้กำหนดข้อจำกัดเกี่ยวกับวิธีการใช้เครื่องมือ AI ในการปฏิบัติการทางทหาร

อย่างไรก็ตาม ความท้าทายของ Kalinowski อ้างว่าการประกาศนั้นรีบเร่ง โดยไม่มีมาตรการป้องกันที่จำเป็นอยู่ในที่ เธอเสริมว่าการออกของเธอขึ้นอยู่กับความกังวลด้านการกำกับดูแล ซึ่งสำคัญเกินกว่าจะรีบเร่ง

OpenAI ยืนยันการออกของ Kalinowski ในแถลงการณ์ แต่ยืนยันว่าการเชื่อมโยงของบริษัทกับหน่วยงานกลาโหมปูทางไปสู่การใช้เครื่องมือ AI อย่างรับผิดชอบในความมั่นคงแห่งชาติ 

ในเดือนกุมภาพันธ์ OpenAI ประกาศ ว่าจะปรับใช้ ChatGPT เวอร์ชันที่ปรับแต่งบนแพลตฟอร์ม AI ระดับองค์กรที่ปลอดภัยของกระทรวงกลาโหมที่เรียกว่า GenAI.mil บริษัทระบุว่าความร่วมมือกับหน่วยงานทหารและกลาโหมเกิดจากบทบาทสำคัญของ AI ในการปกป้องผู้คนและหลีกเลี่ยงความขัดแย้ง

ความขัดแย้งระหว่างรัฐบาลสหรัฐและบริษัท AI ในการพัฒนา AI ทางทหารยังนำไปสู่นักวิจัยจำนวนมากที่ออกจากบริษัท AI นักวิจัยด้านมาตรการป้องกันชั้นนำคนหนึ่งของ Anthropic ลาออกพร้อมแถลงการณ์ "โลกอยู่ในอันตราย"

นักวิจัย OpenAI อีกคนหนึ่งก็ลาออกจากตำแหน่งของตน โดยกล่าวว่าเทคโนโลยี AI มีวิธีในการควบคุมมนุษย์ที่นักพัฒนาไม่สามารถเข้าใจหรือป้องกันได้

Zoë Hitzig นักวิจัยเดิมที่ OpenAI ก็ออกจากบริษัทในวันที่ 11 กุมภาพันธ์ เธอลาออกในวันเดียวกับที่ OpenAI ประกาศว่าเริ่มทดสอบโฆษณาบน LLM ChatGPT เธออ้างว่าบริษัท AI กำลังทำผิดพลาดเหมือนกับที่ Facebook เคยทำ

Hitzig แสดงความกังวลของเธอว่าบทบาทที่เป็นเอกลักษณ์ของ ChatGPT ในฐานะที่ปรึกษาสำหรับการเปิดเผยข้อมูลส่วนตัวอย่างลึกซึ้ง (ความกลัวทางการแพทย์ ปัญหาความสัมพันธ์ ความเชื่อทางศาสนา) ทำให้การกำหนดเป้าหมายโฆษณามีความเสี่ยงเป็นพิเศษ