Siêu máy tính AI nhỏ gọn chỉ bằng cục sạc dự phòng

Theo Digital Trends, trong bối cảnh cơn sốt trí tuệ nhân tạo (AI) toàn cầu chưa có dấu hiệu hạ nhiệt, rào cản lớn nhất đối với người dùng phổ thông vẫn là chi phí phần cứng. Những cái tên như Project Digits của NVIDIA (khoảng 3.000 USD) hay DGX Spark (4.000 USD) vẫn là những giấc mơ xa xỉ. Tuy nhiên, Tiiny AI Pocket Lab xuất hiện như một lời giải đầy táo bạo cho bài toán này.

Triết lý mới: "AI phải thuộc về con người, không phải Data Center"

Tiiny AI cho rằng nút thắt thực sự của kỷ nguyên AI hiện nay không nằm ở sức mạnh tính toán, mà ở sự phụ thuộc quá lớn vào đám mây (Cloud). Ông Samar Bhoj, Giám đốc GTM của hãng, khẳng định đanh thép: "Trí thông minh không nên bị giam cầm trong các trung tâm dữ liệu, nó phải thuộc về con người".

•  

ẢNH: Tiiny AI

Với Pocket Lab, mục tiêu tối thượng là 'bình dân hóa' các mô hình AI tiên tiến. Bằng cách xử lý dữ liệu ngay trên thiết bị (Local AI), người dùng không chỉ giảm bớt sự lệ thuộc vào đường truyền mạng mà còn đảm bảo tối đa quyền riêng tư - một vấn đề nhức nhối trong thời đại số.

Sức mạnh khủng khiếp trong hình hài tí hon

Đừng để vẻ ngoài đánh lừa. Dù chỉ có kích thước 14,2 × 8 × 2,53 cm và nặng vỏn vẹn 300 gram, Pocket Lab sở hữu sức mạnh mà trước đây chỉ tìm thấy trên các hệ thống server cồng kềnh. Tiiny AI tuyên bố thiết bị này có thể vận hành trơn tru các mô hình ngôn ngữ lớn (LLM) với quy mô lên tới 120 tỉ tham số.

'Dàn nội thất' bên trong của Pocket Lab là giấc mơ của mọi tín đồ công nghệ, với:

• CPU: ARM v9.2 12 nhân mới nhất.
• NPU (Bộ xử lý thần kinh): Hiệu suất lên tới 190 TOPS.
• RAM: 80 GB LPDDR5X - con số khổng lồ cho một thiết bị cầm tay, cho phép chạy lượng tử hóa (quantization) mạnh mẽ.

Thiết bị hỗ trợ hầu hết mô hình mã nguồn mở đang 'gây sốt' nhất hiện nay như: GPT-OSS, Llama, Qwen, DeepSeek, Mistral và Phi.

ẢNH: Tiiny AI

Vũ khí bí mật: TurboSparse và PowerInfer

Để làm được điều không tưởng này, Tiiny AI đã trang bị hai công nghệ lõi độc quyền:

• TurboSparse: Công nghệ kích hoạt thưa thớt cấp độ nơ-ron, giúp AI 'suy nghĩ' nhanh hơn mà không bị 'ngốc nghếch' đi.
• PowerInfer: Công cụ phân luồng thông minh, chia việc cho CPU và NPU, giúp thiết bị đạt hiệu suất cấp máy chủ (server-grade) nhưng vẫn tiết kiệm điện năng đáng kinh ngạc.

Dự kiến, Tiiny AI sẽ mang 'quái vật tí hon' này đến trình diễn tại triển lãm CES 2026. Dù mức giá vẫn còn là ẩn số, nhưng giới quan sát nhận định nếu giá bán hợp lý, Pocket Lab hoàn toàn có thể tạo ra một cuộc cách mạng về AI cá nhân trong thời gian tới.