-
Quỳnh Anh Shyn tiết lộ bí mật trong màn làm hoà gây chấn động với Chi Pu
-
Thiếu niên 15 tuổi ở Ninh Bình mất tích bí ẩn, để lại thư tay với lời nhắn "Tết này con không về"
-
Cảnh giác chiêu lừa đảo nộp phạt giao thông qua Cổng Dịch vụ công Quốc gia giả
-
Giá vàng miếng SJC đắt nhất lịch sử
-
Bộ Công an bảo vệ Lễ 80 năm Cách mạng Tháng Tám và Quốc khánh ở cấp độ cao nhất
-
Vướng vào "địa ngục tâm linh", 3 đại gia bị vợ chồng thầy cúng lừa 20 tỷ đồng
-
Thủ tướng: Bắn pháo hoa tại 34 tỉnh, thành phố chào mừng Quốc khánh
-
Sức khỏe của nghệ sĩ Phước Sang sau 1 năm bị đột quỵ
-
Sốc với visual của ca sĩ Việt đi hát hội chợ Trung Quốc, hình tượng nàng thơ vỡ tan tành
-
Phát hiện chấn động: Thi thể người đàn ông mất tích 28 năm vẫn còn nguyên vẹn
Công nghệ
22/04/2023 16:00Vận hành ChatGPT tốn hơn 700.000 USD mỗi ngày

Theo Dylan Patel, nhà phân tích trưởng tại hãng phân tích bán dẫn SemiAnalysis, chi phí vận hành ChatGPT cao như vậy là vì hạ tầng đắt đỏ. ChatGPT cần năng lực điện toán khổng lồ để tính toán phản hồi dựa trên lời nhắc (prompt) của người dùng. Patel ước tính chi phí dựa trên các máy chủ đắt đỏ cần để vận hành chatbot.
Trong cuộc phỏng vấn với BI, chuyên gia cho rằng chi phí hiện nay thậm chí còn cao hơn do ước tính ban đầu của ông dựa trên mô hình GPT-3 của OpenAI. Mô hình mới nhất GPT-4 sẽ tốn kém hơn.
Nếu như đào tạo mô hình ngôn ngữ lớn (LLM) của ChatGPT đã tiêu tốn hàng chục triệu USD, chi phí vận hành hay chi phí suy luận còn lớn hơn nhiều. Nhiều năm nay, các công ty sử dụng mô hình ngôn ngữ của OpenAI đã phải trả số tiền lớn. Chẳng hạn, Nick Walton – CEO startup Latitude – tiết lộ chi phí vận hành mô hình cùng với máy chủ Amazon Web Services mỗi tháng khoảng 200.000 USD vào năm 2021. Vì vậy, anh đã chuyển sang nhà cung cấp phần mềm ngôn ngữ khác để giảm một nửa chi phí.
Để giảm thiểu chi phí cần thiết vận hành mô hình AI tạo sinh, Microsoft đang phát triển chip AI có tên Athena. Theo The Information, dự án bắt đầu từ năm 2019, vài năm sau khi công ty ký thỏa thuận 1 tỷ USD với OpenAI để startup chỉ sử dụng máy chủ đám mây Azure.
Hai nguyên nhân thúc đẩy Microsoft phát triển chip là: họ nhận ra bị tụt hậu so với Google và Amazon trong lĩnh vực chip; họ tìm kiếm phương án rẻ hơn chip Nvidia. Hơn 300 nhân viên Microsoft đang làm dự án chip và có thể sử dụng nội bộ con chip sớm nhất trong năm sau.
Theo Du Lam (VietNamNet)








- Cô gái 24 tuổi đăng quang Hoa hậu Hàn Quốc 2025 (07/08/25 23:39)
- Phát hiện thi thể mất bàn tay chân, không quần áo ở Cà Mau (07/08/25 22:36)
- Hội bạn thân đẹp, giàu nổi tiếng TikTok Việt bị nghi nói xấu, nghỉ chơi (07/08/25 22:30)
- Mỹ nhân MasterChef qua đời vì tai nạn kinh hoàng ở tuổi 38 (07/08/25 21:56)
- Khởi tố vụ cô gái mất 96% sức khỏe vì bị khung đỡ đèn tiệc cưới đổ sập, đè lên người (07/08/25 21:07)
- Bé gái 7 tuổi đuối nước tử vong tại hồ bơi ở Đồng Nai (07/08/25 21:03)
- Sesko đối mặt cú sốc văn hóa tại MU (07/08/25 20:58)
- Xác định được nhóm đánh hội đồng cháu gái 14 tuổi (07/08/25 20:50)
- Bãi nại cho người xách ngược cháu bé 16 tháng tuổi ném xuống nền bê-tông (07/08/25 20:45)
- Một cảnh sát giao thông bị thanh niên người Nga tấn công ở Nha Trang (07/08/25 20:37)




