Ứng dụng Việt "rượt đuổi" sát nút ChatGPT và cuộc đua giành con chip cao cấp nhất của NVIDIA

Đây là dự án hiếm hoi tại Việt Nam từng mua được hệ thống máy chủ DGX H100 do NVIDIA cung cấp.

"Chúng tôi chỉ đứng sau ChatGPT trên kho ứng dụng Việt Nam"

Trong buổi gặp bên lề AISC 2025, sự kiện quy tụ hơn 1.000 “bộ não” hàng đầu thế giới về AI và bán dẫn tại Hà Nội, CEO AI Hay, Tiến sĩ Nguyễn Thọ Chương hồ hởi thông báo “Chúng tôi đã cán mốc 10 triệu lượt tải”.

“10 triệu này có lớn không đối với một ứng dụng AI?”

“Chúng tôi chỉ đứng sau ChatGPT trên kho ứng dụng tại Việt Nam”.

Đây là thành tích của một startup trẻ, xây dựng được đội ngũ kỹ sư 100% người Việt Nam với xuất phát điểm chỉ có 10 người.

Ứng dụng Việt "rượt đuổi" sát nút ChatGPT và cuộc đua giành con chip cao cấp nhất của NVIDIA- Ảnh 1.

Nhóm sáng lập AI Hay.

Tiến sĩ Nguyễn Thọ Chương, cùng với hai đồng sáng lập Trần Quang Đức và Nguyễn Hoàng Hiệp đều từng học tập và làm việc tại Mỹ. Họ đồng tình về một thực tế: phần lớn các nền tảng trí tuệ nhân tạo đều được thiết kế để phục vụ cho người dùng quốc tế, vẫn chưa có công cụ AI nào thực sự "thuần Việt", đáng tin cậy để hỗ trợ học tập và nghiên cứu.

Một dự án bình dân hóa AI, xây dựng một ứng dụng Generative AI dành riêng cho người Việt, đặc biệt là người trẻ với tên gọi AI Hay đã ra đời vào năm 2022.

Tháng 6/2024, ứng dụng này chính thức phục vụ người dùng Việt Nam. Chưa đầy 1 năm sau, AI Hay đạt 100 triệu lượt đặt câu hỏi trên ứng dụng và website.

3 tháng sau khi AI Hay ra mắt, nhận thấy tiềm năng của startup trẻ quá lớn, AWS - một công ty thuộc Amazon với chương trình AWS Generative AI Accelerator (một phần trong cam kết trị giá 230 triệu USD nhằm thúc đẩy phát triển ứng dụng AI trên toàn cầu) đã quyết định tài trợ hơn 1 triệu USD cho dự án.

Startup của Việt Nam đã vượt qua hơn 4.700 ứng viên toàn thế giới để trở thành một trong ba đại diện Đông Nam Á được lựa chọn.

Không chỉ vậy, AI Hay cũng là startup hiếm hoi tại Việt Nam sở hữu hệ thống máy chủ DGX H100 do NVIDIA cung cấp.

Điều gì giúp startup Việt vượt qua các đối thủ để đuổi sát nút Chat GPT – siêu ứng dụng do hàng loạt tỷ phú thế giới đổ tiền, hay thực hiện được việc mà nhiều "ông lớn" công nghệ “có tiền cũng không làm được” - mua chip tối tân nhất của NVIDIA?

Ứng dụng Việt "rượt đuổi" sát nút ChatGPT và cuộc đua giành con chip cao cấp nhất của NVIDIA- Ảnh 2.

Ứng dụng xử lý hàng triệu câu hỏi mỗi ngày.

Nhớ lại thời điểm mới khởi nghiệp năm 2021, khi cả nhóm chỉ có 10 người, bàn về việc làm ra một sản phẩm AI dành cho người Việt, ông Chương nói “ai cũng có một sự thôi thúc”. Với AI Hay, đó là khát vọng trở thành một ứng dụng quốc dân về tìm kiếm - nơi mà người Việt có thể tiếp cận AI dễ dàng, sử dụng nó để học tập, tra cứu, giải quyết vấn đề.

“AI sẽ không phải là một trào lưu thoáng qua, mà là một sự thay đổi vĩnh viễn trong cuộc sống của chúng ta, giống như cách internet đã làm. Nếu không làm ngay bây giờ thì sẽ mất cơ hội”, ông Chương nhớ lại.

Tất nhiên, mục tiêu làm thành công một ứng dụng quốc dân, bình dân hóa AI thực sự không dễ dàng, càng không phải chuyện hô hào, “mơ hão”. Bản thân tiến sĩ Nguyễn Thọ Chương cũng thừa nhận, khi Chat GPT ra mắt và phổ biến toàn cầu, thì những công ty như AI Hay đã là xuất phát chậm.

“Trâu chậm có uống nước đục hay không?” - đứng trước câu hỏi này, nhóm sáng lập lạc quan cho rằng mỗi thời kỳ đều có một bước ngoặt công nghệ và cơ hội chính là ở đó. Khi internet và máy tính phổ biến, Việt Nam có FPT đi tiên phong. Khi điện thoại thông minh và internet di động bùng nổ, VNG đã nắm bắt cơ hội với Zalo. Thời đại này, cả thế giới đang đổ rất nhiều nguồn lực vào AI, và điều đó khiến nó không thể chỉ là một xu hướng ngắn hạn.

“Ngay cả những công ty lớn như OpenAI, dù là người khổng lồ tiên phong trong lĩnh vực AI tạo sinh, cũng không thể đột nhiên tuyên bố: "Hôm nay chúng tôi sẽ đầu tư 100 triệu USD vào Việt Nam" và lập tức triển khai ngay được, bởi đó là bài toán của doanh nghiệp và còn liên quan đến chiến lược chung: Liệu Việt Nam có muốn có những sản phẩm AI do người Việt làm ra, dành cho người Việt hay không?

Chọn cách chạy thật nhanh, đưa sản phẩm ra thị trường sớm, liên tục cải thiện và thích nghi với nhu cầu người dùng trước khi các đối thủ lớn tràn vào là yếu tố sống còn mà AI Hay xác định ngay từ ngày đầu thành lập.

Ứng dụng Việt "rượt đuổi" sát nút ChatGPT và cuộc đua giành con chip cao cấp nhất của NVIDIA- Ảnh 3.

Tiến sĩ Nguyễn Thọ Chương, cùng người đồng sáng lập Nguyễn Hoàng Hiệp.

"Chúng tôi đang làm một thứ rất lạ trong lĩnh vực này"

"Tiền ở đâu? Kỹ thuật nào? Và hướng đi nào là đúng?" là những câu hỏi đến ngay sau khi nhóm sáng lập nhìn thấy cơ hội trong làn sóng AI toàn cầu.

Nguyễn Hoàng Hiệp – nhà đồng sáng lập AI Hay kể lại, khi tìm kiếm cơ hội rót vốn ở sự kiện của AWS (tại Mỹ), nơi quy tụ 80 startup toàn cầu nhận đầu tư từ Amazon, AI Hay là một trong số ít công ty làm AI cho người tiêu dùng. Đặc biệt, không có công ty nào đến từ châu Á dấn thân vào lĩnh vực này.

“Trong số 4 công ty AI phục vụ người tiêu dùng, có 2 công ty phát triển game bằng AI, 1 công ty làm nhạc, và AI Hay là công ty duy nhất tập trung vào trả lời câu hỏi. Thật thú vị, chúng tôi đang làm một thứ rất lạ trong lĩnh vực này”, Hoàng Hiệp hồi tưởng về một sự kiện thú vị về hướng đi đúng của cả nhóm.

Bắt tay vào làm, các nhà phát triển sản phẩm nhận thấy Chat GPT, dù mạnh mẽ, vẫn có rào cản về ngôn ngữ. Ngay từ đầu, họ không cố gắng xây dựng một mô hình ngôn ngữ lớn như Chat GPT, vì đây là cuộc chơi chỉ dành cho những công ty cực kỳ lớn. Thay vào đó, AI Hay tận dụng các mô hình mã nguồn mở như LLama của Meta hay Qwen của Alibaba, rồi điều chỉnh để phù hợp với người dùng Việt Nam.

Các kỹ sư đã tự xây dựng một bộ từ điển riêng dành cho tiếng Việt, giúp AI Hay hiểu sâu hơn về ngôn ngữ của người Việt so với các mô hình ngôn ngữ chung.

Nếu như từ điển Chat GPT sử dụng thông thường chỉ có khoảng 45.000 từ, thì lượng từ vựng của AI Hay gấp 10 lần, bao gồm cả từ vựng chuyên ngành, tiếng lóng, cách nói chuyện đời thường.

“Khi có người hỏi ‘Hôm nay có chuyện gì xảy ra với Chi?’, AI có thể xác định được 'Chi' nào đang được nhắc đến, dựa trên bối cảnh thực tế. Nếu hôm nay một người tên Chi đang có sự kiện quan trọng tại Việt Nam, AI Hay có thể nhận diện và đưa ra câu trả lời phù hợp, thay vì hiểu sai nghĩa của câu hỏi.

Có thể dùng các từ "bắt trend, hóng phốt, nhiều chuyện" để diễn đạt việc AI Hay hiểu và cập nhật những xu hướng, sự kiện đang diễn ra để đưa ra câu trả lời sát nhất”, đại diện ứng dụng chia sẻ.

Được “bơm” dữ liệu, huấn luyện và tinh chỉnh, AI Hay càng ngày càng cải thiện độ chính xác trong phản hồi. Trung bình mỗi ngày, ứng dụng xử lý 1 triệu câu hỏi. Được thiết kế như mạng xã hội dưới dạng hỏi đáp, không chỉ đơn thuần tra cứu dữ liệu, AI Hay giúp người dùng giải quyết nhiều vấn đề như giải toán, làm văn, đọc báo…

Cuộc đua giành con chip cao cấp nhất của NVIDIA

Năm 2023, khi sản phẩm đang được hoàn thiện, một cơ hội lớn đã đến với AI Hay khi trở thành số ít công ty tại Việt Nam lọt vào chương trình NVIDIA Inception Central Grant và nhận sự hỗ trợ từ NVIDIA để mua phần cứng.

Thế nhưng, đang ở giai đoạn “nóng” của phát triển sản phẩm, việc này suýt đổ bể, bởi lúc đó Việt Nam đang nằm trong danh sách các nước bị hạn chế nhập khẩu những con chip cao cấp nhất của NVIDIA do lệnh cấm từ chính phủ Mỹ.

“Bạn cần hiểu rằng, phần cứng tối tân là yếu tố sống còn trong phát triển công nghệ. AI Hay lúc đó giống như đang chạy đua mà bị trói chân lại bởi không thể tiếp cận nguồn lực về phần cứng”, ông Hiệp kể.

NVIDIA có những tiêu chí tối quan trọng. Trong đó, họ muốn đối tác phải đáp ứng các yêu cầu như sản phẩm phải có lượng người dùng lớn cho thấy tiềm năng phát triển. Sản phẩm phải tạo ra giá trị rõ ràng: có thể là về giáo dục, tăng trưởng kinh tế, hoặc các ứng dụng mang tính cải thiện xã hội. Nếu sản phẩm thuộc lĩnh vực game, thì cũng cần chứng minh được tác động tích cực.

Thứ nữa, vị trí đặt máy chủ phải chính thống – NVIDIA yêu cầu các hệ thống phần cứng phải được đặt ở những trung tâm dữ liệu chính thức, ví dụ như data center của một tổ chức hoặc doanh nghiệp uy tín. Điều này giúp đảm bảo rằng thiết bị không bị sử dụng vào mục đích ngoài phạm vi cho phép.

“Mọi đầu mối có thể”, từ Indonesia, Mỹ cho đến các đối tác ở Việt Nam, thậm chí làm việc trực tiếp với NVIDIA, startup Việt xoay xở mọi cách chứng minh rằng sản phẩm của mình không liên quan đến bất kỳ yếu tố nào bị kiểm soát. Ngay cả khi được hỗ trợ bởi chương trình NVIDIA Inception Central Grant thì AI Hay cũng phải chờ 6-8 tháng để mua chip, trong khi ở Mỹ, các công ty chỉ cần 2-3 tháng. Mọi thứ đều rất căng thẳng, trong khi thời gian là vàng đối với công nghệ. Việc chậm trễ có thể khiến cả dự án bị ảnh hưởng.

“Chúng tôi đã viết một bộ tài liệu giải trình về cách sử dụng chip, nhấn mạnh rằng sản phẩm AI của mình phục vụ giáo dục và cải thiện năng suất lao động, chứ không liên quan đến bất kỳ lĩnh vực nhạy cảm nào”, ông Hiệp chia sẻ.

Cuối cùng, AI Hay cũng mua được một bộ DGX H100 – một trong những hệ thống AI mạnh nhất vào thời điểm đó. Đây là một bước tiến quan trọng, vì lúc bấy giờ chỉ có một số ít công ty lớn, giàu có hơn rất nhiều mới có thể sở hữu hệ thống này. "Nếu không có thiết bị này, nhiều thử nghiệm của chúng tôi sẽ không thể thực hiện được”, ông Hiệp nhớ lại.

Ứng dụng Việt "rượt đuổi" sát nút ChatGPT và cuộc đua giành con chip cao cấp nhất của NVIDIA- Ảnh 4.

Chip của NVIDIA là "vũ khí" quan trọng mà nhiều công ty công nghệ muốn có. Ảnh minh họa

Như “hổ mọc thêm cánh”, sự hỗ trợ đáng kể từ AWS gồm hạ tầng đám mây có sẵn, các phần cứng cao cấp và khoản tín dụng 1 triệu USD giúp mọi thứ vận hành siêu tốc.

Thay vì phải đầu tư hàng triệu USD để mua máy móc, thuê chỗ đặt máy chủ và trả các chi phí vận hành hàng tháng, AI Hay có thể sử dụng tài nguyên tính toán mạnh mẽ ngay trên nền tảng cloud, tiết kiệm đáng kể chi phí và tối ưu hóa tốc độ phát triển sản phẩm.

Sau NVIDIA, AWS, startup Việt tiếp tục nhận được đầu tư của một trong hai quỹ đầu tư mạo hiểm lớn nhất Úc, quỹ của Indonesia và quỹ lớn nhất ở Đài Loan (Trung Quốc).

Theo các nhà sáng lập, việc khó nhất là làm sao thuyết phục nhà đầu tư tin vào niềm tin của startup, sẵn sàng chơi “long game” – đi con đường dài. Để có thể đứng trên vai những người khổng lồ, startup buộc phải chứng minh được tiềm năng trong tương lai.

“Nếu hôm nay người ta chưa nghĩ đến AI Hay, có nghĩa là sản phẩm vẫn cần phải phát triển thêm. Nhưng mục tiêu rất rõ ràng: 5 năm nữa, khi có bất kỳ câu hỏi nào, mọi người sẽ không chỉ nghĩ đến Google, mà sẽ hỏi AI Hay. Giống như cách Zalo đã có mặt trên hầu hết điện thoại ở Việt Nam, chúng muốn AI Hay cũng sẽ trở thành một ứng dụng quen thuộc như thế và đã thuyết phục các nhà đầu tư như thế”, ông Hiệp nói.