Lily Le

Mô Hình AI 10 Nghìn Tỷ Tham Số của ByteDance

🔬 ByteDance được Financial Times đưa tin là đang theo đuổi một mô hình AI có thể đạt tới 10 nghìn tỷ tham số. Nếu được xác nhận, đây sẽ là một bước tăng rất lớn về quy mô tham số. Tuy nhiên, bằng chứng hiện có cần được đọc với nhiều điều kiện. Financial Times cho biết ngày 7/8 ByteDance đang ở giai đoạn tiền huấn luyện sớm. Reuters đưa lại thông tin nhưng nói rõ rằng họ không thể xác minh độc lập nội dung cốt lõi, còn ByteDance chưa công khai xác nhận dự án tính đến mốc nghiên cứu ngày 9/8/2026. Có bằng chứng đã được xác nhận về năng lực huấn luyện quy mô lớn của các nhà nghiên cứu liên quan đến ByteDance. MegaScale ghi nhận mô hình 175 tỷ tham số trên 12.288 GPU; MegaScale-MoE ghi nhận mô hình MoE 352 tỷ tham số trên 1.440 GPU Hopper. Những kết quả này cho thấy năng lực hệ thống phân tán, nhưng không chứng minh dự án 10 nghìn tỷ tham số tồn tại hoặc việc mở rộng trực tiếp lên quy mô đó là khả thi. Kimi K3 và DeepSeek V4-Pro cũng cho thấy một điểm quan trọng: tổng số tham số và số tham số được kích hoạt trên mỗi token có thể rất khác nhau. Vì vậy, số tham số không thể được dùng như bảng xếp hạng năng lực. Theo bạn, bằng chứng nào sẽ quan trọng nhất nếu ByteDance công bố thêm: model card, kiến trúc, benchmark hay thông tin phần cứng? ByteDance #AI #TriTueNhanTao #CongNghe #MachineLearning

Chip AI Mới

🔬 AMD đã ký thỏa thuận chính thức để mua lại Taalas, startup silicon AI tại Toronto phát triển phần cứng suy luận theo từng mô hình cụ thể. Taalas đi theo hướng rất khác GPU đa dụng. HC1 “đóng cứng” Meta Llama 3.1 8B vào một die 815mm² trên tiến trình TSMC 6nm. Taalas cho biết HC1 đạt 17.000 token/giây/người dùng trong phạm vi máy chủ 2,5 kW. Nhưng con số nổi bật này cần được đặt trong đúng bối cảnh. Benchmark do chính Taalas thực hiện, dùng lượng tử hóa 3-bit/6-bit và công ty thừa nhận có suy giảm chất lượng so với benchmark GPU tiêu chuẩn. Báo cáo được phê duyệt chưa có xác thực độc lập, chuẩn hóa và so sánh trực tiếp tương đương. Lợi ích tiềm năng của silicon chuyên dụng là giảm chi phí chuyển trọng số mô hình giữa bộ nhớ và khối tính toán. Đổi lại là tính linh hoạt thấp hơn. Taalas nói vẫn có thể điều chỉnh context window và fine-tune bằng LoRA, nhưng base model không có khả năng lập trình tùy ý như GPU. AMD nói sẽ tích hợp công nghệ Taalas vào lộ trình bộ tăng tốc và phát triển giải pháp cấp hệ thống bên cạnh GPU Instinct. Thương vụ chưa hoàn tất và vẫn phụ thuộc vào các điều kiện đóng giao dịch thông thường. Liệu silicon theo từng mô hình có thể trở thành mảnh ghép đáng kể bên cạnh GPU cho suy luận AI quy mô lớn? AMD #Taalas #AIInference #BanDan #ChipAI

OpenAI Thay Đổi Chiến Lược Kinh Doanh

OpenAI đang hoàn toàn định hình lại tương lai của mình, và những con số đằng sau sự thay đổi này thực sự đáng kinh ngạc. 🤯 Trong năm 2025, gã khổng lồ AI này đạt doanh thu 13,07 tỷ USD, nhưng tổng chi phí lại lên tới mức khổng lồ 34 tỷ USD. Để khắc phục tình trạng "đốt tiền" không bền vững này, OpenAI đang thực hiện những bước đi mạnh mẽ trong năm 2026. Đầu tiên, họ đã trì hoãn việc phát hành rộng rãi mẫu GPT-5.6 để tuân thủ quy trình đánh giá an ninh quốc gia tự nguyện của chính phủ Mỹ, nhằm tránh cơn ác mộng pháp lý từng giáng xuống các đối thủ. Hiện tại, họ đang tiến mạnh vào không gian doanh nghiệp bằng cách chuyển đổi ChatGPT thành một không gian làm việc "siêu ứng dụng" (superapp) tích hợp, một nỗ lực nhằm chiếm lĩnh nguồn doanh thu định kỳ có biên lợi nhuận cao. Họ cũng đã phá vỡ thế độc quyền đám mây với Microsoft và hợp tác với Broadcom để phát triển một chip AI tùy chỉnh mang tên "Jalapeño" nhằm cắt giảm tới 50% chi phí tính toán. Đây là một bước ngoặt mang tính rủi ro cao, biến họ từ một phòng thí nghiệm nghiên cứu thuần túy thành một thế lực phần mềm doanh nghiệp khổng lồ trong lúc chuẩn bị cho đợt phát hành cổ phiếu ra công chúng (IPO) được mong đợi. Bạn có nghĩ OpenAI có thể duy trì vị thế thống trị của mình, hay mức định giá 1 nghìn tỷ USD được đồn đại là quá cao?

AI Nguồn Mở

Chủ đề đang được quan tâm nhiều. Ai cần bản phân tích đầy đủ (Tiếng Anh) có thể gửi yêu cầu phần bình luận — 🔬 Một tuyên bố mới của liên minh công nghệ cho rằng AI trọng số mở nên được xem là hạ tầng chiến lược đối với vai trò dẫn đầu công nghệ của Mỹ. Những người ủng hộ cho rằng trọng số có thể tải xuống giúp giảm phụ thuộc nhà cung cấp, tăng quyền triển khai riêng, hỗ trợ cạnh tranh và tạo thêm không gian cho nghiên cứu. Nhưng bằng chứng cũng chỉ ra nhiều giới hạn. AI trọng số mở không đồng nghĩa với mã nguồn mở hoàn toàn, vì mã nguồn, dữ liệu huấn luyện và toàn bộ quy trình phát triển có thể vẫn không được công bố. Các mô hình thưa với quy mô hàng nghìn tỷ tham số cũng có thể đòi hỏi chi phí lớn về GPU, điện năng, nhân lực kỹ thuật và bảo mật. Khía cạnh an ninh cũng có hai mặt. Hugging Face cho biết nhóm ứng phó sự cố đã dùng một mô hình trọng số mở tự vận hành để phân tích pháp chứng khi API thương mại chặn truy vấn. Đồng thời, các đánh giá của cơ quan an toàn AI lưu ý rằng khi trọng số được phân phối, nhà phát triển không thể tiếp tục thực thi rào chắn an toàn tại thời điểm sử dụng. Thách thức chính sách là xác định ranh giới giữa chưng cất mô hình hợp pháp và chiến dịch khai thác năng lực có chủ đích, thay vì coi mọi hoạt động AI mở là một mối đe dọa.