Cách AI đang xử lý lượng thông tin khổng lồ của ngành viễn thông

Khối lượng thông tin khổng lồ đó đẩy các kỹ sư vận hành vào tình trạng "quá tải thông tin tiếp nhận".

Các nhà mạng đang đẩy nhanh tốc độ phủ sóng 5G khiến việc quản trị hạ tầng viễn thông đã phức tạp lại càng trở nên thách thức hơn. Một mạng lưới hiện đại có thể bao gồm hàng chục nghìn trạm thu phát sóng, hệ thống truyền dẫn quang diện rộng, các trung tâm dữ liệu, và hàng loạt hệ thống quản lý phụ trợ. Bất kỳ sự cố hay thay đổi cấu hình đều để lại dấu vết trên nhật ký hệ thống, cảnh báo, báo cáo, tài liệu,…

Khối lượng thông tin khổng lồ đó đẩy các kỹ sư vận hành vào tình trạng "quá tải thông tin tiếp nhận": Họ vừa phải nắm vững cách vận hành nhiều nền tảng riêng biệt, vừa phải ghép nối - thường là thủ công những luồng thông tin rời rạc nhằm truy tìm nguyên nhân cốt lỗi và đưa ra giải pháp xử lý phù hợp cho các sự cố.

Các nhà mạng đang phải đưa AI vào vận hành kho dữ liệu khổng lồ. (Ảnh minh họa)

Liên quan tới nội dung này, ông Phùng Việt Thắng - Giám đốc Quốc gia Intel Việt Nam đã có những chia sẻ liên quan:

Hạ tầng phức tạp trở thành gánh nặng vận hành

Một hướng tiếp cận đang được nhiều nhà mạng trên thế giới nghiên cứu và ứng dụng là xây dựng các nền tảng AI doanh nghiệp có khả năng "đọc và hiểu" dữ liệu kỹ thuật, hệ thống vận hành, và tài liệu nội bộ,… sau đó phản hồi được đưa ra bằng ngôn ngữ tự nhiên.

Mô hình này hoàn toàn khác biệt so với các chatbot đa dụng như ChatGPT, Gemini hay những chatbot chăm sóc khách hàng thông thường, vốn chủ yếu được thiết kế để phản hồi các câu lệnh cho tình huống rộng hơn của người dùng. Trong vận hành viễn thông, AI bắt buộc phải hiểu bối cảnh đặc thù chuyên ngành: Kiến trúc mạng, lịch sử cấu hình, mô hình sự cố, quy trình nội bộ, và cơ chế vận hành riêng của từng tổ chức.

Ẩn sau những câu hỏi tưởng chừng đơn giản như: "Trạm này đang báo lỗi gì?", "Quy trình xử lý sự cố này ra sao?", hay "Gần đây cấu hình có thay đổi không?" thực chất là một chuỗi tự động hóa phức tạp. Hệ thống phải truy xuất dữ liệu thời gian thực từ công cụ giám sát, kích hoạt chính xác các chức năng nội bộ, đối chiếu, tra cứu tài liệu hướng dẫn kỹ thuật, đối soát trường hợp hiện tại với lịch sử các sự cố tương tự, rồi mới tổng hợp toàn bộ thông tin thành một câu trả lời mạch lạc, dễ hiểu.

Đây là lúc cơ chế điều phối đa tác tử, khả năng kích hoạt các chức năng linh hoạt, và các mô hình AI chuyên biệt cho từng lĩnh vực phát huy vai trò then chốt. Sự cộng hưởng này cho phép AI vượt ra khỏi các cuộc hội thoại thông thường để trở thành một mắt xích thực thụ trong quy trình tác nghiệp chuyên sâu.

Những siêu vi xử lý ra đời hỗ trợ vận hành AI.

Siêu vi xử lý giúp giải bài toán vận hành

Tại Việt Nam, nền tảng netMind của Viettel được phát triển theo định hướng đó. Đóng vai trò là lớp trí tuệ thông minh trung gian giữa hệ thống kỹ thuật hiện hữu và người dùng nội bộ, netMind cho phép nhân viên truy vấn trực tiếp bằng ngôn ngữ tự nhiên thay vì phải tìm thông tin được lưu trữ ở đâu hay phải truy cập hệ thống nào. Nền tảng kết nối người dùng với dữ liệu vận hành, tài liệu kỹ thuật, và dịch vụ nội bộ theo cách trực quan hơn, qua đó đưa ra câu trả lời bằng tiếng Việt bám sát bối cảnh của doanh nghiệp.

Vận hành đằng sau trải nghiệm tương tác đó là kiến trúc đa tác tử. Tầng điều phối trung tâm chịu trách nhiệm phân tích yêu cầu từ người dùng, phân tách thành các tác vụ nhỏ hơn, và điều phối các tác nhân AI chuyên trách. Những thực thể này sẽ truy xuất dữ liệu mạng vận hành, tài liệu kỹ thuật, thông tin trên nền tảng web cũng như các thông tin dịch vụ hỗ trợ doanh nghiệp.

Mỗi tác nhân sẽ xử lý độc lập từng phần của yêu cầu, trong khi tầng điều phối sẽ đánh giá và tổng hợp kết quả thành câu trả lời hoàn chỉnh. Trường hợp dữ liệu sẵn có chưa đủ rõ ràng, hệ thống sẽ tự động điều chỉnh truy vấn để bóc tách thêm ngữ cảnh bổ trợ trước khi đưa ra phản hồi.

Điểm cốt lõi là netMind không thay thế các hệ thống hiện có của doanh nghiệp. Dữ liệu vận hành vẫn được lưu trữ trong hệ thống mạng chuyên biệt, tài liệu kỹ thuật lưu trữ an toàn trong kho dữ liệu doanh nghiệp, và các dịch vụ nội bộ vẫn hoạt động trên những nền tảng sẵn có. Giá trị gia tăng mà AI đem lại là phương thức kết nối tự nhiên và thông minh hơn giữa người dùng với các nguồn tài nguyên này, giảm thiểu việc phải chuyển đổi thủ công qua lại giữa các hệ thống phân mảnh, đồng thời bảo toàn vai trò của các nguồn dữ liệu gốc và quy trình nghiệp vụ sẵn có.

Đây cũng chính là điểm then chốt nơi công nghệ phần cứng phát huy vai trò. netMind được triển khai và tối ưu hóa trên nền tảng bộ xử lý Intel Xeon 6972P kết hợp cùng bộ tăng tốc AI Intel Gaudi. Sức mạnh xử lý của dòng CPU hiệu năng cao hỗ trợ đắc lực khâu xử lý dữ liệu, điều phối hệ thống và các khối lượng công việc song song; trong khi bộ tăng tốc AI gánh vác các tác vụ suy luận mô hình đòi hỏi thông lượng lớn và phản hồi nhanh nhạy.

Trên thực tế, sự kết hợp này giúp nền tảng xử lý đồng thời lượng lớn yêu cầu tải cao, bao gồm cả những truy vấn có chuỗi ngữ cảnh dài (long-context), mà vẫn duy trì độ nhạy đáp ứng nghiêm ngặt theo tiêu chuẩn của môi trường vận hành mạng lưới.

Các bài kiểm thử hiệu năng do Viettel và Intel phối hợp thực hiện đã đánh giá nhiều kịch bản khối lượng công việc khác nhau với mức tải đồng thời tăng dần từ 10 đến 500 yêu cầu cùng lúc. Intel Gaudi 3 mang lại hiệu suất xử lý xuyên suốt các kịch bản thử nghiệm, trong đó lợi thế thể hiện rõ nét nhất ở các tác vụ có ngữ cảnh dài. Tại một cấu hình đánh giá được thiết lập chuẩn, hiệu suất xử lý đạt tới 3,14 lần so với hệ thống GPU khác được dùng làm tham chiếu.

Đến nay, netMind đã được tích hợp hơn 200 dữ liệu kịch bản, vận hành trên 30 hệ thống mạng, và một kho dữ liệu gồm hơn 800 tài liệu kỹ thuật. Nền tảng đang phục vụ hơn 12.000 người dùng và xử lý khoảng 3.000 truy vấn mỗi ngày. Không dừng lại ở vận hành mạng, giải pháp còn hỗ trợ các tình huống như tra cứu tài liệu nội bộ, xử lý yêu cầu hành chính và tìm kiếm thông tin nhân sự.

Một tính năng đáng chú ý khác là cơ chế bộ nhớ ngắn hạn và dài hạn. Ngữ cảnh đối thoại gần đây được lưu trữ để đảm bảo tính liền mạch, trong khi những thông tin có giá trị lâu dài sẽ được lưu trữ và cập nhật liên tục theo thời gian, như chu kỳ phát sinh lỗi hay thói quen sử dụng của từng bộ phận. Hướng tiếp cận này giúp hệ thống ngày càng thích ứng sâu sắc hơn với đặc thù vận hành của doanh nghiệp.