มีเรื่องเล่าในวงการเทคโนโลยีที่สันนิษฐานว่าเป็นแบบรวมศูนย์: ข้อมูลย้ายไปยังคลาวด์ การคำนวณเกิดขึ้นที่นั่น แล้วผลลัพธ์กลับมา สำหรับบริษัทโครงสร้างพื้นฐานคลาวด์ เรื่องเล่านี้สะดวก แต่สำหรับบริษัทที่สร้างระบบ AI ที่ต้องทำงานได้อย่างน่าเชื่อถือ รวดเร็ว และปลอดภัยในสภาพแวดล้อมจริง เรื่องเล่านี้กำลังจำกัดมากขึ้นเรื่อยๆ
Edge computing — การเปลี่ยนแปลงของความสามารถในการคำนวณให้เข้าใกล้จุดที่สร้างข้อมูลและจุดที่ต้องตัดสินใจมากขึ้น — ไม่ใช่เรื่องใหม่ สิ่งที่ใหม่คือความเร่งด่วนของมัน การผสมผสานของความต้องการ AI แบบเรียลไทม์ กฎระเบียบด้านความเป็นส่วนตัว ข้อจำกัดของแบนด์วิดท์เครือข่าย และความซับซ้อนที่เกิดขึ้นใหม่ของ IoT และระบบอัตโนมัติกำลังทำให้ edge computation ไม่ใช่ตัวเลือกสถาปัตยกรรมเฉพาะกลุ่มอีกต่อไป แต่เป็นความต้องการหลักสำหรับทั้งหมวดหมู่ของแอปพลิเคชัน
ผมติดตามการเปลี่ยนแปลงนี้อย่างใกล้ชิดผ่าน NexaTech Ventures เพราะมันแสดงถึงการเปลี่ยนแปลงสถาปัตยกรรมที่สำคัญที่สุดอย่างหนึ่งในโครงสร้างพื้นฐานเทคโนโลยีนับตั้งแต่การย้ายไปสู่คลาวด์คอมพิวติ้งเอง
จุดที่สถาปัตยกรรมคลาวด์พังทลาย
คลาวด์คอมพิวติ้งถูกสร้างขึ้นบนสมมติฐานที่พิสูจน์แล้วว่าถูกต้องในสองทศวรรษแรกของอินเทอร์เน็ต: การส่งข้อมูลไปยังทรัพยากรคำนวณส่วนกลางถูกกว่าการกระจายการคำนวณทั่วเครือข่าย สำหรับแอปพลิเคชันเว็บส่วนใหญ่ — การค้นหา โซเชียลมีเดีย อีคอมเมิร์ซ — นี่ยังคงเป็นจริง แต่สำหรับแอปพลิเคชันที่ขยายตัว สมมติฐานนี้กำลังพังทลาย
พิจารณายานยนต์อัตโนมัติ รถยนต์ขับขี่อัตโนมัติตัดสินใจที่สำคัญต่อความปลอดภัยในหนึ่งในพันของวินาทีโดยอิงจากข้อมูลเซ็นเซอร์ การส่งข้อมูลเซ็นเซอร์ดิบไปยังบริการคลาวด์ที่อยู่ไกล รอการตอบกลับ และรับการตัดสินใจกลับมาไม่เพียงแต่ไม่มีประสิทธิภาพ มันใช้งานไม่ได้โดยพื้นฐาน ความล่าช้าไม่สามารถยอมรับได้และความต้องการด้านความน่าเชื่อถือไม่สามารถตอบสนองได้ การคำนวณต้องเกิดขึ้นบนตัวยานยนต์เอง แบบเรียลไทม์ โดยใช้การประมวลผลในเครื่อง
หรือพิจารณาแอปพลิเคชันที่มีกฎระเบียบด้านความเป็นส่วนตัวในการดูแลสุขภาพหรือบริการทางการเงิน GDPR และกฎระเบียบที่คล้ายกันกำลังต้องการให้ข้อมูลส่วนบุคคลที่ละเอียดอ่อนได้รับการประมวลผลในเขตอำนาจศาลเฉพาะและภายใต้การควบคุมความปลอดภัยเฉพาะมากขึ้น การสตรีมข้อมูลทางการแพทย์หรือรายละเอียดธุรกรรมทางการเงินไปยังบริการคลาวด์ในประเทศอื่น แม้เพื่อการวิเคราะห์ที่ชอบด้วยกฎหมาย ก็สร้างความซับซ้อนด้านการปฏิบัติตามที่ทำให้การประมวลผลแบบรวมศูนย์มีความเสี่ยงทางกฎหมายและการดำเนินงาน
หรือพิจารณาการผลิตในโรงงาน โรงงานผลิตที่สร้างข้อมูลเซ็นเซอร์เป็นเทราไบต์จากอุปกรณ์การผลิตไม่สามารถสตรีมทั้งหมดไปยังบริการคลาวด์เพื่อวิเคราะห์ได้จริง ค่าใช้จ่ายแบนด์วิดท์สูงเกินไป ความล่าช้าสำหรับการปรับกระบวนการแบบเรียลไทม์ไม่สามารถยอมรับได้ และความเสี่ยงด้านความยืดหยุ่นในการดำเนินงานสูงเกินไป การคำนวณต้องเกิดขึ้นในท้องถิ่น
เหล่านี้ไม่ใช่กรณีขอบ เหล่านี้คือหมวดหมู่หลักของแอปพลิเคชันที่เกิดขึ้นใหม่ และสถาปัตยกรรมคลาวด์คอมพิวติ้ง ตามการออกแบบ ไม่เหมาะกับทั้งหมดนี้
การเปลี่ยนแปลงทางเทคนิคที่จำเป็น
Edge AI ต้องการสถาปัตยกรรมทางเทคนิคที่แตกต่างจาก AI บนคลาวด์ โมเดลการเรียนรู้ของเครื่องต้องมีขนาดเล็กลง มีประสิทธิภาพมากขึ้น และเหมาะสมกับอุปกรณ์ที่มีทรัพยากรจำกัด ไปป์ไลน์การอนุมานต้องทนทานต่อการเชื่อมต่อเครือข่ายที่ไม่ต่อเนื่อง โมเดลความปลอดภัยต้องทำงานกับระบบกระจายแทนที่จะเป็นศูนย์ข้อมูลส่วนกลาง กลไกการอัปเดตและการกำหนดเวอร์ชันต้องผลักดันการเปลี่ยนแปลงไปยังอุปกรณ์ edge หลายพันหรือหลายล้านเครื่องอย่างมีประสิทธิภาพและปลอดภัย
เหล่านี้เป็นปัญหาที่ยากและต้องการแนวทางที่แตกต่างจากการพัฒนา AI บนคลาวด์ บริษัทที่แก้ไขปัญหาเหล่านี้ไม่ใช่บริษัทคลาวด์คอมพิวติ้ง พวกเขาเป็นบริษัทใหม่ที่กำลังสร้างโครงสร้างพื้นฐาน AI ที่เหมาะสมกับ edge
แนวโน้มทางเทคนิคหลายอย่างกำลังมาบรรจบกันเพื่อทำให้การเปลี่ยนแปลงนี้เป็นไปได้ เทคนิคการบีบอัดและการควอนไทเซชันของโมเดลกำลังพัฒนาอย่างรวดเร็ว ทำให้โมเดล AI ที่ซับซ้อนสามารถทำงานบนอุปกรณ์ edge ด้วยทรัพยากรคำนวณเพียงเศษส่วน ฮาร์ดแวร์เฉพาะทาง — TPU, NPU และตัวเร่ง AI อื่นๆ — กำลังพร้อมใช้งานในอุปกรณ์ edge ให้ความสามารถในการคำนวณที่จำเป็น มาตรฐานเปิดสำหรับการปรับใช้ edge กำลังเกิดขึ้น ทำลายการผูกมัดกับแพลตฟอร์มที่เป็นกรรมสิทธิ์
ที่ NexaTech Ventures เรากำลังสนับสนุนบริษัทในสามหมวดหมู่ภายในโครงสร้างพื้นฐาน edge AI ประการแรก แพลตฟอร์มการเพิ่มประสิทธิภาพและการปรับใช้โมเดลที่นำโมเดล AI ขนาดใหญ่มาบีบอัดเพื่อการดำเนินการบน edge ประการที่สอง เครื่องมืออนุมาน edge ที่เหมาะสมกับความล่าช้าต่ำและการดำเนินการแบบกระจาย ประการที่สาม ระบบออเคสเทรชัน edge ที่จัดการการปรับใช้ การอัปเดต และการตรวจสอบภาระงาน AI ทั่วโครงสร้างพื้นฐาน edge แบบกระจาย
ตำแหน่งของยุโรป
ข้อได้เปรียบด้านโครงสร้างพื้นฐานของยุโรปใน edge computing นั้นละเอียดอ่อนแต่เป็นจริง ทวีปนี้ได้ลงทุนอย่างหนักในโครงสร้างพื้นฐานโทรคมนาคมและการปรับใช้ 5G ซึ่งให้ความจุเครือข่ายและการเชื่อมต่อความล่าช้าต่ำที่จำเป็นสำหรับ edge computing กฎระเบียบการป้องกันข้อมูลของยุโรป แทนที่จะเป็นอุปสรรค กลับกำลังขับเคลื่อนความต้องการโซลูชัน edge computing ที่เก็บข้อมูลที่ละเอียดอ่อนไว้ในท้องถิ่น
ที่สำคัญกว่านั้น ภาคการผลิต ยานยนต์ และอุตสาหกรรมของยุโรปกำลังขับเคลื่อนความต้องการที่แท้จริงสำหรับ edge AI บริษัทยานยนต์เยอรมันต้องการ edge AI สำหรับยานยนต์อัตโนมัติ ผู้ผลิตอิตาลีต้องการการคำนวณ edge สำหรับการผลิตที่มีความแม่นยำ เกษตรกรรมของดัตช์ต้องการ edge AI สำหรับระบบเกษตรที่มีความแม่นยำ สิ่งนี้สร้างวงจรที่ดีที่ความต้องการขับเคลื่อนการลงทุนในโครงสร้างพื้นฐาน edge AI ซึ่งดึงดูดความสามารถและเงินทุน ซึ่งปรับปรุงความสามารถของเทคโนโลยี ซึ่งขับเคลื่อนการนำไปใช้เพิ่มเติม
เรื่องเล่า edge computing ของอเมริกาในปัจจุบันถูกครอบงำโดยบริษัทคลาวด์ที่พยายามขยายแพลตฟอร์มของพวกเขาไปสู่ edge AWS, Google Cloud และ Azure ล้วนเสนอบริการ edge แต่เหล่านี้เป็นสถาปัตยกรรมที่ยึดคลาวด์เป็นพื้นฐานโดยมี edge ต่อเติมเข้าไป สถาปัตยกรรม edge AI ที่เปลี่ยนแปลงกำลังถูกสร้างโดยบริษัทที่เริ่มต้นด้วยสมมติฐานที่ว่าการคำนวณเกิดขึ้นที่ edge และคลาวด์เป็นข้อยกเว้น ไม่ใช่กฎ
กรณีการลงทุน
Edge computing และ edge AI แสดงถึงการเปลี่ยนแปลงโครงสร้างในวิธีการปรับใช้และเรียกใช้ซอฟต์แวร์ มันไม่ใช่แนวโน้มชั่วคราวหรือตลาดเฉพาะกลุ่ม มันเป็นการเปลี่ยนแปลงสถาปัตยกรรมพื้นฐานที่ขับเคลื่อนโดยความต้องการทางเทคนิคที่แท้จริงที่คลาวด์คอมพิวติ้งไม่สามารถตอบสนองได้
โอกาสการลงทุนอยู่ในหลายระดับ ที่ระดับโครงสร้างพื้นฐาน บริษัทที่สร้างแพลตฟอร์ม AI ที่เหมาะสมกับ edge และเครื่องมือการปรับใช้กำลังสร้างข้อได้เปรียบทางการแข่งขันที่ยั่งยืน ที่ระดับแอปพลิเคชัน บริษัทที่กำลังสร้างสถาปัตยกรรมซอฟต์แวร์ใหม่สำหรับการดำเนินการบน edge — ยานยนต์อัตโนมัติ ระบบอุตสาหกรรม อุปกรณ์การดูแลสุขภาพ — จะบรรลุข้อได้เปรียบด้านประสิทธิภาพและความน่าเชื่อถือที่จะยากที่จะแทนที่
ที่ NexaTech Ventures เรามองหาบริษัท edge AI ที่เข้าใจทั้งความต้องการทางเทคนิคและความท้าทายในการดำเนินงาน บริษัทที่ดีที่สุดไม่เพียงแต่เพิ่มประสิทธิภาพอัลกอริทึม พวกเขาสร้างระบบที่สมบูรณ์สำหรับการปรับใช้ edge รวมถึงการตรวจสอบ ความปลอดภัย การจัดการการอัปเดต และการสนับสนุนการดำเนินงาน
การเปลี่ยนแปลงจากคลาวด์แบบรวมศูนย์ไปสู่ edge computing แบบกระจายแสดงถึงการเปลี่ยนแปลงโครงสร้างพื้นฐานที่สำคัญที่สุดในเทคโนโลยีนับตั้งแต่การย้ายไปสู่คลาวด์ บริษัทที่วางตำแหน่งตัวเองในช่วงต้นของการเปลี่ยนแปลงนี้จะสร้างธุรกิจที่มีนัยสำคัญและป้องกันได้
Scott Dylan เป็นผู้ก่อตั้ง NexaTech Ventures เขาเขียนเกี่ยวกับโครงสร้างพื้นฐานเทคโนโลยี AI และการลงทุนเทคโนโลยีเชิงลึก อ่านเพิ่มเติมที่ scottdylan.com
