Việc xử lý AI trên thiết bị vốn đòi hỏi dung lượng RAM lớn.

Gemma 3n là bước tiến đáng kể so với các mô hình AI trước đó của Google. Sau khi được giới thiệu tại hội nghị I/O tháng trước, phiên bản đầy đủ đã có mặt và sẵn sàng chạy trực tiếp trên thiết bị di động.

Gemma là một bộ mô hình AI nguồn mở của Google. Nó khác với Gemini vì cho phép lập trình viên tải về và chỉnh sửa.

Hãng công nghệ Mỹ cho biết Gemma 3n có thể xử lý tại chỗ các đầu vào như hình ảnh, âm thanh và video để tạo văn bản, là bước nhảy vọt so với chỉ dựa trên văn bản như trước. Điểm nổi bật khác là nó chạy trên các phần cứng sở hữu bộ nhớ khiêm tốn, chỉ cần 2GB, và xử lý tốt hơn các tác vụ như lập trình, suy luận.

Gemma 3n hỗ trợ 140 ngôn ngữ đối với văn bản và 35 ngôn ngữ với đa phương thức.

Google sử dụng kiến trúc mới có tên MatFormer để tăng hiệu quả. Nó giống với búp bê Matrioska của Nga: mô hình lớn hơn chứa các phiên bản nhỏ hơn với đầy đủ chức năng bên trong. Điều này cho phép tùy chỉnh kích thước (E2B, E4B) theo các trường hợp sử dụng khác nhau.

Về hiệu suất, Google cho biết mô hình E4B đạt 1.300 điểm LMArena, là mô hình đầu tiên dưới 10 tỷ tham số đạt cột mốc này.

Chức năng âm thanh của mô hình nay hỗ trợ chuyển đổi giọng nói sang văn bản và dịch thuật ngay trên thiết bị, sử dụng bộ mã hóa có thể xử lý giọng nói một cách chi tiết. Về thị giác, bộ mã hóa MobileNet-V5 có thể xử lý video tối đa 60FPS trên thiết bị Pixel.

Tại Google I/O, Google cho biết Gemma 3n chạy hiệu quả trên các thiết bị hàng ngày như smartphone, laptop và máy tính bảng. Với đột phá này, những mẫu điện thoại từ 2GB đến 3GB RAM cũng có thể chạy AI, thay vì phải chạy đua về RAM, mang đến cơ hội tiếp cận AI rộng rãi hơn cho người dùng.

Nhiều báo cáo cho thấy các hãng sản xuất đang tăng cường nâng cấp RAM trên thiết bị di động để đáp ứng nhu cầu về AI. Theo Macquarie Research, dung lượng RAM trên các flagship Android có xu hướng tăng mạnh. Công ty dự đoán dòng Galaxy S26 sẽ tăng lên 16GB RAM. Trong khi đó, iPhone cũng trang bị RAM 8GB mới chạy được Apple Intelligence và dự kiến tăng lên 12GB RAM vào năm sau.

(Theo Vietnamnet)