Tại sao cỗ máy 1.2kg của Nvidia lại là một bước ngoặt thật sự cho người làm AI?

Có một tin tức công nghệ mấy ngày qua cứ làm mình phải dừng lại suy ngẫm, đó là khoảnh khắc Jensen Huang (Nvidia) đích thân trao cỗ máy AI mới cho Elon Musk. Điều đáng nói ở đây không phải là hành động trao tặng, mà là ý nghĩa đằng sau cỗ máy nhỏ bé đó.

Chúng ta hay nói về tốc độ phát triển của AI. Nhưng đây là một minh chứng không thể cụ thể hơn:

Chỉ 9 năm trước, cũng chính Jensen đã tặng Elon cỗ máy DGX-1 đầu tiên, to như một cái tủ lạnh nhỏ, đặt nền móng cho OpenAI và sau này là ChatGPT. Giờ đây, một cỗ máy (DGX Spark) có sức mạnh tính toán tương đương 1 petaflop (nghìn tỷ phép tính mỗi giây) đã nằm gọn trong một thiết bị chỉ nặng 1.2kg, đặt vừa vặn trên bàn làm việc.

Cái tin này làm mình "ngứa ngáy" muốn phân tích ngay, không phải dưới góc độ kỹ thuật (dù con chip Grace Blackwell GB10 quá khủng), mà dưới góc độ của một "người giải bài" trong ngành công nghệ.

Mình cực kỳ tâm đắc với nhận định: Đây chính là "khoảnh khắc MacBook" của phần cứng AI.

Tại sao lại nói vậy? Trước khi có MacBook, việc làm đồ họa chuyên nghiệp, làm phim hay lập trình phức tạp gần như là đặc quyền của các studio, các doanh nghiệp lớn với những cỗ máy trạm cồng kềnh. Khi MacBook ra đời, nó đã trao sức mạnh đó vào tay từng cá nhân, từng người làm sáng tạo, từng startup nhỏ.

Nó "mang sức mạnh sáng tạo" đến tay mọi người.

Cỗ máy DGX Spark này đang làm điều y hệt cho AI. Nó đang giải quyết 3 bài toán lớn nhất mà bất cứ ai làm AI, kể cả Bizfly chúng tôi, cũng đang phải đối mặt:

Bài toán CHI PHÍ & PHỤ THUỘC (The Cloud Problem): Cho đến nay, muốn huấn luyện các mô hình ngôn ngữ lớn, bạn gần như bị "trói" vào các ông lớn đám mây (AWS, Google, Azure). Chi phí để thuê GPU train mô hình là một rào cản khổng lồ, nó đang biến AI thành cuộc chơi của các 'tay to'. Giờ đây, khi bạn có thể làm điều đó ngay tại chỗ, cuộc chơi đã công bằng hơn rất nhiều.

Bài toán QUYỀN RIÊNG TƯ (The Privacy Problem): Đây là điều mình từng trăn trở (còn nhớ bài viết về 2 vụ kiện chứ?). Doanh nghiệp nào cũng muốn ứng dụng AI, nhưng không ai muốn gửi dữ liệu nhạy cảm của khách hàng hay bí mật kinh doanh của mình lên một đám mây bên ngoài. Với cỗ máy này, bạn có thể huấn luyện mô hình ngay "trong nhà" (on-premise). Dữ liệu không đi đâu cả. Bài toán bảo mật và chủ quyền dữ liệu được giải quyết.

Bài toán TỐC ĐỘ SÁNG TẠO (The Speed Problem): Không độ trễ. Không phụ thuộc đường truyền. Khi rào cản về chi phí và bảo mật được gỡ bỏ, tốc độ để một nhà nghiên cứu, một kỹ sư hay một startup nhỏ thử nghiệm những ý tưởng điên rồ nhất gần như bằng 0.

Đây vừa là một cơ hội vàng, vừa là một áp lực khủng khiếp cho tất cả chúng ta.

Cơ hội cho những "người giải bài" nhỏ lẻ, độc lập. Và áp lực cho những ai đang nghĩ rằng cứ có data center to là sẽ thắng. Cuộc đua giờ không còn chỉ là ai có nhiều tiền đốt cho cloud, mà là ai có ý tưởng đột phá và triển khai đủ nhanh ngay trên... bàn làm việc của mình.

Thế giới vừa được "san phẳng" thêm một chút nữa. Lại một bài toán mới và thú vị để chúng ta cùng lao vào giải rồi!