Bỏ học Harvard để khởi nghiệp và cạnh tranh với Nvidia

Nvidia đang là câu chuyện nóng nhất trên phố Wall dạo gần đây, khi mà giá trị công ty tăng gấp 8 lần kể từ cuối năm 2022 và đạt hơn 3.000 tỷ USD vốn hóa thị trường trong tháng 6 này. Một startup 2 năm tuổi, do những sinh viên bỏ dở đại học Harvard thành lập, vừa huy động được 120 triệu USD từ các quỹ đầu tư mạo hiểm, để phát triển một con chip có thể cạnh tranh với Nvidia trong lĩnh vực AI.

Có văn phòng chính tại Cupertino, California – nơi đặt trụ sở của Apple – startup Etched đang phát triển một con chip có tên là Sohu. Con chip này sẽ được sử dụng để huấn luyện và triển khai các mô hình AI sử dụng “transformer,” kiến trúc cốt lõi làm nền tảng cho những chatbot như ChatGPT của OpenAI.

Nhà đồng sáng lập kiêm CEO của Etched, Gavin Uberti, cho biết khi AI phát triển, hầu hết các yêu cầu tính toán tiêu thụ nhiều năng lượng sẽ được hỗ trợ bởi các con chip tùy chỉnh, có dây cứng gọi là ASICs. Hiệu quả của những con chip này đến từ việc chúng chỉ phụ trách mô hình AI cụ thể, đã được giao cho từ trước. Điểm này khác với các GPU (bộ xử lý đồ hoạ) của Nvidia với nhiều tính năng hơn nhưng cũng đắt đỏ hơn.

“Chúng tôi đang đặt cược rất lớn vào AI,” Uberti trả lời trong một cuộc phỏng vấn. “Nếu transformer biến mất, chúng tôi sẽ thất bại. Nhưng nếu kiến trúc này vẫn tồn tại, chúng tôi sẽ trở thành công ty lớn nhất mọi thời đại.”

Uberti cùng nhà người đồng sáng lập khác đều biết rằng, đây là một canh bạc với rủi ro cao và rằng, họ đang phải đối đầu với những công ty có vốn hóa và sức cạnh tranh lớn. Mặc dù, 120 triệu USD là một số tiền lớn có thể huy động trong vòng gọi vốn series A, đây cũng là số tiền mà Nvidia kiếm được trong nửa ngày. Doanh thu của công ty này đã tăng hơn gấp 3 lần mỗi năm trong 3 quý liên tiếp, đạt hơn 26 tỷ USD trong quý trước.

Theo ước tính, Nvidia chiếm hơn 80% thị phần chip AI. Trong khi đó, Etched nằm trong số các startup đang thu hút vốn để đón đầu cơ hội phát triển này. Được biết, vòng gọi vốn của startup được dẫn dắt bởi Primary Venture Partners và Positive Sum Ventures, cùng với các nhà đầu tư khác như Peter Thiel, Stanley Druckenmiller và nhà sáng lập của Cruise – Kyle Vogt.

Mặc cho Nvidia có khởi đầu đầy thuận lợi và lợi thế khác biệt mà các công ty khác khó có thể bắt chước, những nhà sản xuất chip mới vẫn bất chấp tiến lên, vì cơ hội trong ngành này là rất lớn. Các đối thủ của Nvidia bao gồm Cerebras Systems, công ty đang phát triển một con chip AI lớn hơn về mặt vật lý và Tenstorrent, công ty sử dụng công nghệ mới có tên là RISC-V để tạo ra chip AI.

“Lý do chúng tôi rất hào hứng với những gì đang làm, tại sao chúng tôi nghỉ học và thuyết phục nhiều người hãy rời bỏ các dự án chip này là điều quan trọng nhất mà chúng tôi đang thực hiện,” Robert Wachen, giám đốc điều hành của Etched, chia sẻ. “Toàn bộ tương lai ngành công nghệ sẽ được định hình bằng việc liệu cơ sở hạ tầng có thể xử lý trên một quy mô lớn hay không.”

Ngành công nghiệp bán dẫn từ lâu đã là một trong những lĩnh vực khó đối với các startup. Ngành này có chu kỳ phát triển dài, đòi hỏi số vốn lớn để phát triển và yêu cầu phải hợp tác với số ít đối tác, chẳng hạn như Taiwan Semiconductor Manufacturing Co. – công ty đang sản xuất chip cho Etched.

Theo dữ liệu từ PitchBook, năm 2023, các nhà đầu tư mạo hiểm đã đầu tư 6 tỷ USD vào các công ty bán dẫn AI, tăng nhẹ từ 5,7 tỷ USD vào năm trước đó.

Uberti và Chris Zhu bắt đầu khởi nghiệp, sau khi Uberti làm công việc liên quan đến trình biên dịch trong kỳ thực tập mùa hè. Công việc này giúp anh nảy ra các ý tưởng phần cứng cấp thấp (low-level), dẫn đến sự ra đời của Etched.

Cặp đôi này và bạn cùng phòng của Uberti là Wachen đã nghỉ học Harvard vào năm 2022. Sau đó họ nhanh chóng tuyển dụng các chuyên gia trong ngành sản xuất chip. Công ty đặt trụ sở tại Cupertino và hiện có 35 nhân sự. Ngoài ra, startup còn hỗ trợ tiền nhà cho các nhân viên mới.

“Khi ChatGPT mới ra mắt, cổ phiếu của Nvidia tăng mạnh. Các mô hình AI ra đời sau đó cũng sẽ sử dụng mô hình transformer và đây sẽ là một tin tốt đối với chúng tôi,” Uberti nói.

Etched đang chuẩn bị đưa Sohu ra thị trường và các nhà sáng lập cho biết, họ sẵn sàng giới thiệu sản phẩm vào cuối năm nay. Startup cũng đang làm việc để đảm bảo khách hàng và cho biết, các công ty công nghệ đang háo hức được thử nghiệm các chip AI mới.

Để hoạt động hiệu quả, các công ty hiện đang chi hàng tỷ USD cho các GPU. Họ sẽ cần một phương pháp giúp tiết kiệm chi phí bằng cách sử dụng những con chip tùy chỉnh, được thiết kế riêng cho từng mô hình AI. Đồng thời, họ phải sẵn sàng đánh đổi một cách linh hoạt.

Bằng cách chuyên môn hóa cấu trúc transformer, dữ liệu di chuyển theo cách có thể dự đoán được từ chip đến bộ nhớ. Điều này khiến con chip Sohu của Etched sẽ có ít không gian hơn cho bộ nhớ và thay vào đó là các loại transistor, giúp xác định sức mạnh của con chip.

Một khía cạnh khác liên quan đến hiệu suất, đó là con chip sẽ có lõi lớn. Thiết kế này cho phép giảm bớt các phép tính không hiệu quả được thực hiện bởi bộ xử lý đa luồng (streaming multiprocessor) nhằm điều phối các phép tính của các lõi khác nhau.

Uberti cho biết, tác động của các con chip AI chuyên dụng này có thể giống với cách các chip ASIC, lần đầu tiên được giới thiệu vào năm 2013 để đào bitcoin hoặc ether. Từ đó làm giảm nhu cầu đối với GPU của Nvidia.

Các nhà sáng lập của Etched hy vọng, nhu cầu về chip chạy các mô hình này sẽ tăng lên, đặc biệt khi chúng được sử dụng để phục vụ phần mềm AI hàng triệu lần mỗi phút.

Etched cũng cho rằng, bằng cách mã hóa cứng kiến trúc AI vào chip, thiết bị của họ có thể làm giảm độ trễ trong việc trả lời, thêm các tính năng mới, như tác nhân AI (AI agent) hoặc trò chuyện bằng giọng nói trong thời gian thực. Startup cho biết, chip của họ nhanh hơn GPU của Nvidia gấp 10 lần, nhờ kiến trúc đơn giản hơn và chỉ sử dụng cho một mục đích duy nhất.

Nhưng, Etched đang phải đối đầu với một số công ty có giá trị nhất trên thị trường, bao gồm Nvidia, với đội ngũ nhân sự và nguồn vốn cần thiết để đảm bảo sản xuất và cải thiện con chip của họ hàng năm.

Do đó, Etched phải phát triển nhanh hơn nữa.

“Cách để chúng tôi có thể chiến thắng trong thị trường chip AI chuyên dụng này và những thị trường sau đó là đưa những sản phẩm đầu tiên ra thị trường” Uberti nói.