Trong cuộc đua không ngừng của trí tuệ nhân tạo, các nhà phát triển luôn nỗ lực tối ưu hóa để đưa các mô hình ngôn ngữ lớn (LLM) lên những phần cứng yếu nhất và tiết kiệm chi phí nhất. Mục tiêu là giảm thiểu sức mạnh tiêu thụ. Nhưng sẽ thế nào nếu một mô hình AI có thể chạy trên phần cứng đã ra đời từ năm 1982? Đó chính là thành tựu đầy ấn tượng của dự án Llama2.c64.
Dự án mang tên “Llama2.c64”, được phát triển bởi Maciej Witkowiak, đang hiện thực hóa ý tưởng đưa một mô hình AI đơn giản lên chiếc máy tính Commodore 64 huyền thoại – một thiết bị ra đời rất lâu trước khi khái niệm LLM được hình thành. Mặc dù chắc chắn không thể so sánh với sức mạnh của GPT-4o, nhưng đây vẫn là một kỳ tích đáng kinh ngạc trong giới công nghệ.
Llama2.c64: Cầu Nối Giữa AI Hiện Đại Và Phần Cứng Huyền Thoại
Theo báo cáo từ Hackaday, Maciej Witkowiak đã chính thức giới thiệu Llama2.c64 ra thế giới. Như bạn có thể hình dung, việc đạt được hiệu suất cao từ phần cứng cổ điển này là điều bất khả thi, nhưng việc có thể chạy bất kỳ thứ gì trên đó đã là một điều cực kỳ thú vị. Witkowiak mô tả dự án của mình như sau: “Được port sang C64 bởi Maciej ‘YTM/Elysium’ Witkowiak sử dụng oscar64. Llama2.c64 là một bản port của llama2.c sang Commodore C64 được trang bị ít nhất 2MB REU. Nó chạy mô hình tinystories 260K, mang khả năng của Llama2 đến môi trường phần cứng độc đáo của C64. Đây không phải là một mô hình chat.”
Bàn phím cơ 8BitDo C64 mang phong cách máy tính Commodore 64 cổ điển
Thay vào đó, Witkowiak giải thích: “Hãy hình dung bạn gợi ý cho một đứa trẻ 3 tuổi bắt đầu một câu chuyện – chúng sẽ tiếp tục câu chuyện đó bằng vốn từ vựng và khả năng tốt nhất của mình.” Điều này giúp người dùng dễ dàng hình dung về trải nghiệm AI độc đáo mà Llama2.c64 mang lại trên chiếc máy tính 8 bit từ năm 1982.
Trải Nghiệm AI “Kể Chuyện Trẻ Thơ” Trên Commodore 64
Bạn có thể thấy một ví dụ về Llama2.c64 tạo ra một câu chuyện trong hình ảnh minh họa. Đúng như mô tả, kết quả nghe có vẻ giống như một đứa trẻ đang bập bẹ kể chuyện. Tuy nhiên, khi xét đến lượng dữ liệu ít ỏi mà AI được cung cấp và khả năng nó tiếp tục câu chuyện, đây thực sự là một thành tựu đáng kinh ngạc đối với một chiếc máy tính đã 42 tuổi.
Minh họa quá trình suy luận (inference) và kết quả tạo câu chuyện của Llama2.c64 trên Commodore 64
Witkowiak cũng liệt kê những ưu điểm của dự án này: AI hoàn toàn nằm dưới sự kiểm soát của người dùng, hoạt động được trên phần cứng yếu, và khẳng định rằng “Việc chờ đợi token tiếp theo trên C64 cũng thú vị không kém so với việc chờ đợi nó từ DeepSeek chạy trên laptop của bạn.” Về nhược điểm, ông hài hước cho biết “Không có gì đáng kể, điều này thật tuyệt vời” (mặc dù ông thừa nhận nó có thể hơi chậm).
Llama2.c64 không chỉ là một minh chứng cho sự sáng tạo không giới hạn của con người mà còn là một lời nhắc nhở rằng tiềm năng của công nghệ đôi khi có thể vượt xa những giới hạn phần cứng tưởng chừng như đã lỗi thời. Dự án này mở ra những suy nghĩ mới về khả năng tối ưu hóa và ứng dụng AI trong nhiều môi trường khác nhau, từ những thiết bị hiện đại đến những cổ máy tính huyền thoại. Nếu bạn quan tâm đến việc chạy AI trên những phần cứng mạnh mẽ hơn một chút, hãy tìm hiểu thêm về các bo mạch chủ đơn (SBC) phù hợp cho AI tại nhà hoặc cách biến PC cũ thành máy chủ tạo ảnh AI.
