Công nghệ
15/01/2024 21:00Muốn có AI trên smartphone thì Samsung phải bổ sung ít nhất 20GB RAM mới 'ngon', nhưng Apple có chiêu khác
AI đã xuất hiện từ lâu và cũng được áp dụng trên smartphone nhiều năm trước, nhưng 2024 sẽ là năm mà AI tạo sinh (Generative AI) lên ngôi. AI này dự kiến sẽ được nhiều hãng smartphone lớn sử dụng và không chỉ thông qua nền tảng đám mây, xử lý tác vụ AI ngay trên thiết bị là điều mà các "ông lớn" ngành công nghệ đang hướng tới.
Sự hỗ trợ này đã được tích hợp vào một số chipset sẽ phát hành trong năm nay, bao gồm Snapdragon 8 Gen 3 và Exynos 2400. Tuy nhiên, theo một báo cáo mới từ Macquarie, việc xử lý AI trên thiết bị không chỉ đòi hỏi một con chip mạnh mẽ mà sẽ cần nhiều RAM hơn đáng kể so với trước đây. Apple cũng là một trong những công ty được đồn đoán sẽ tham gia cuộc chiến AI, nhưng hãng lại có một cách tiếp cận khác với thế giới Android.
AI khả năng càng cao, càng đòi hỏi nhiều RAM
Khi AI trở nên phổ biến hơn trên smartphone, yêu cầu về phần cứng để hỗ trợ các tính năng nâng cao này cũng ngày càng tăng. Smartphone Android có khả năng xử lý AI trên thiết bị có thể yêu cầu RAM lên tới 20GB để đảm bảo hoạt động mượt mà hơn. Đây là mức tăng đáng kể so với tiêu chuẩn RAM 8GB hiện tại ở hầu hết smartphone Android hiện nay.
Như bạn có thể thấy trong biểu đồ trên, để quá trình tạo hình ảnh bằng AI trên thiết bị hoạt động hoàn hảo, điện thoại Android sẽ cần ít nhất 12 GB RAM, đây vẫn là điều mà chúng ta thường thấy trên những smartphone cao cấp hay thậm chí cận cao cấp. Nhưng đối những máy có trợ lý AI xử lý ngay trên thiết bị, cùng với các tính năng khác, sẽ cần tới 20 GB RAM để đảm bảo hoạt động mượt mà hơn.
Lý do cho sự gia tăng này là do việc sử dụng AI trên thiết bị ngày càng tăng, cho phép các tác vụ AI được xử lý cục bộ trên điện thoại thay vì trên đám mây. Điều này mang đến nhiều lợi ích, bao gồm cải thiện hiệu suất, độ trễ thấp hơn và nâng cao quyền riêng tư. Tuy nhiên, nó cũng đòi hỏi nhiều sức mạnh xử lý và bộ nhớ hơn, do đó cần nhiều RAM.
Cách xử lý AI của Apple
Trong khi Android đang tập trung vào việc tăng RAM để hỗ trợ AI trên thiết bị thì Apple lại đang thực hiện một cách tiếp cận khác với AI tạo sinh. Năm 2024, nhiều nguồn tin chỉ ra rằng Apple sẽ tham gia "cuộc chiến AI" với một "siêu Siri" và hệ điều hành iOS 18 tập trung vào AI, công ty cũng được cho là chi "hàng triệu USD" mỗi ngày để phát triển AI.
Theo thông tin bên lề, Apple tập trung vào việc tích hợp Generative AI vào hệ sinh thái của mình để nâng cao trải nghiệm người dùng. Nhưng nếu AI đòi hỏi quá nhiều RAM, thì liệu iPhone có đủ sức hỗ trợ hay không, vì thiết bị này có RAM ít hơn hầu hết điện thoại Android cùng phân khúc.
Hóa ra, Apple đã có một cách riêng. Các nhà nghiên cứu của Apple gần đây đã xuất bản một báo cáo có tên "LLM in a Flash: Efficient Large Language Model Inference with Limited Memory", mô tả cách sử dụng điểm mạnh của bộ lưu trữ flash nhằm giảm gánh nặng cho bộ nhớ và tăng hiệu suất của Mô hình ngôn ngữ lớn (LLM). Nói cách khác, Apple đang nỗ lực để đảm bảo LLM chất lượng cao có thể chạy hoàn toàn trên iPhone.
Phương pháp của các kỹ sư Apple đã khéo léo vượt qua giới hạn bằng cách sử dụng hai kỹ thuật chính giúp giảm thiểu việc truyền dữ liệu và tối đa hóa bộ nhớ flash:
Windowing: Thay vì tải dữ liệu mới mỗi lần, mô hình AI sẽ sử dụng lại một số dữ liệu đã được xử lý. Điều này làm giảm nhu cầu tìm nạp bộ nhớ liên tục, giúp quá trình xử lý trên thiết bị nhanh hơn và mượt mà hơn.
Row-Column Bundling: Bằng cách nhóm dữ liệu hiệu quả hơn, dữ liệu có thể được đọc nhanh hơn từ bộ nhớ flash, tăng tốc khả năng đọc hiểu và tạo ngôn ngữ của AI.
Theo các nhà nghiên cứu, sự kết hợp của các phương pháp này cho phép các mô hình AI tận dụng tốt gấp đôi bộ nhớ khả dụng của iPhone, mở ra khả năng tăng tốc gấp 4-5 lần trên bộ xử lý (CPU) tiêu chuẩn và nhanh hơn 20-25 lần trên bộ xử lý đồ họa (GPU). Các tác giả viết: "Bước đột phá này đặc biệt quan trọng để triển khai LLM tiên tiến trong môi trường hạn chế về tài nguyên, từ đó mở rộng khả năng ứng dụng và khả năng tiếp cận của chúng".
Cùng với hệ sinh thái khép kín của mình, Apple dường như đã tìm ra cách để Generative AI hoạt động trên iPhone mà không phải tăng dung lượng RAM như cách Android thực hiện.
Trong năm nay, AI rõ ràng sẽ đóng một vai trò quan trọng trong việc định hình tương lai của smartphone. Mặc dù Android và Apple đã chọn những con đường khác nhau nhưng cả hai đều hướng đến nâng cao trải nghiệm người dùng thông qua sức mạnh của AI. Samsung sẽ ra mắt dòng Galaxy S24 với "Galaxy AI" trong những ngày tới, iPhone thế hệ tiếp theo sẽ ra mắt trong cuối năm nay cùng các tính năng AI, hãy chờ xem liệu thế giới smartphone sẽ thay đổi như thế nào trong thời đại AI này.
Theo Tuấn Nguyễn (Đời Sống Pháp Luật)
Bài đọc nhiều
