- 
                                
                                
		 Người phụ nữ mắc ung thư phổi giai đoạn cuối, bật khóc khi biết "thủ phạm" chính từ chống con Người phụ nữ mắc ung thư phổi giai đoạn cuối, bật khóc khi biết "thủ phạm" chính từ chống con
- 
                                
                                
		 Từ sinh viên công nghệ đến kẻ cầm súng sát hại 3 người ở Đồng Nai: Hé lộ kế hoạch lạnh người trước khi gây án Từ sinh viên công nghệ đến kẻ cầm súng sát hại 3 người ở Đồng Nai: Hé lộ kế hoạch lạnh người trước khi gây án
- 
                                
                                
		 Quá khứ "cánh tay phải" của Hoàng Hường bị bắt: Đứng sau loạt thần dược, lộ cách vận hành hệ thống công ty Quá khứ "cánh tay phải" của Hoàng Hường bị bắt: Đứng sau loạt thần dược, lộ cách vận hành hệ thống công ty
- 
                                
                                
		 Rapper Pháo nói gì sau khi gỡ bỏ bài hát bị cơ quan chức năng điểm tên? Rapper Pháo nói gì sau khi gỡ bỏ bài hát bị cơ quan chức năng điểm tên?
- 
                                
                                
		 Xác minh clip hai nhóm học sinh ở TP.HCM đánh nhau, có em co giật tại hiện trường Xác minh clip hai nhóm học sinh ở TP.HCM đánh nhau, có em co giật tại hiện trường
- 
                                
                                
		 Bé trai 17 tháng bỏng toàn thân do bình nóng lạnh phát nổ, cảnh báo thói quen "chết người" bạn vẫn làm mỗi ngày! Bé trai 17 tháng bỏng toàn thân do bình nóng lạnh phát nổ, cảnh báo thói quen "chết người" bạn vẫn làm mỗi ngày!
- 
                                
                                
		 Madam Pang đến Đại sứ quán Việt Nam tại Thái Lan để xin lỗi Madam Pang đến Đại sứ quán Việt Nam tại Thái Lan để xin lỗi
- 
                                
                                
		 "Nướng" hơn 4,2 triệu USD vào sới bạc, cựu bí thư Thành ủy TP Hoà Bình cũ khai gì? "Nướng" hơn 4,2 triệu USD vào sới bạc, cựu bí thư Thành ủy TP Hoà Bình cũ khai gì?
- 
                                
                                
		 Quy trình xử lý bồi thường vụ ông Trịnh Văn Quyết nộp khắc phục ngàn tỷ: Điều gì xảy ra nếu bị hại không nhận lại tiền? Quy trình xử lý bồi thường vụ ông Trịnh Văn Quyết nộp khắc phục ngàn tỷ: Điều gì xảy ra nếu bị hại không nhận lại tiền?
- 
                                
                                
		 Biệt thự của Long Nhật ở Huế "chìm trong biển nước": Nước lũ dâng cao "gần ngập cả bàn thờ mẹ"! Biệt thự của Long Nhật ở Huế "chìm trong biển nước": Nước lũ dâng cao "gần ngập cả bàn thờ mẹ"!
Công nghệ
05/04/2023 18:30Google hé lộ ‘át chủ bài’ huấn luyện các AI đình đám
Theo đó, gã khổng lồ tìm kiếm đã tự thiết kế chip tuỳ chỉnh của riêng mình có tên Tensor Processing Unit (TPU) và sử dụng loại chip này cho hơn 90% khối lượng công việc huấn luyện AI, quá trình cung cấp dữ liệu thông qua thuật toán để các mô hình có thể trả lời hiệu quả những truy vấn của người dùng bằng văn bản hoặc hình ảnh.
Dựa trên báo cáo khoa học của Google xuất bản, siêu máy tính của công ty này được kết nối từ hơn 4.000 con chip lại với nhau bằng các công tắc quang học do chính hãng phát triển.
 
Các mô hình ngôn ngữ lớn hỗ trợ công nghệ trên Bard (Google) hay ChatGPT (OpenAI) đòi hỏi sức mạnh điện toán khổng lồ không thể lưu trữ trên 1 con chip đơn lẻ. Do đó, các công ty chế tạo siêu máy tính tìm cách chia mô hình thành hàng nghìn con chip, kết nối chúng lại để chạy trong nhiều tuần hoặc hơn cho quá trình huấn luyện.
PaLM, mô hình ngôn ngữ công khai lớn nhất đến nay của Google, được đào tạo bằng cách chia thành 2 phần chạy trên siêu máy tính 4.000 chip trong vòng 50 ngày liên tục.
Google cho biết siêu máy tính của hãng khiến việc cấu hình lại kết nối giữa các chip trở nên dễ dàng, nhanh chóng hơn, từ đó tránh được các sự cố và tăng được hiệu suất chung.
“Công tắc chuyển mạch giúp dễ dàng định tuyến xung quanh các thành phần bị lỗi”, Norm Jouppi và David Patterson, 2 chuyên gia của công ty viết trong bài đăng trên blog. “Tính linh hoạt thậm chí cho phép chúng tôi thay đổi cấu trúc liên kết của các siêu máy tính nhằm tăng tốc hiệu suất mô hình máy học”.
Mặc dù đến bây giờ Google mới công khai cấu hình chi tiết siêu máy tính, nhưng cỗ máy này đã được sử dụng trong công ty từ năm 2020 tại một trung tâm dữ liệu ở hạt Mayes, Oklahoma. Hãng cũng chia sẻ, startup Midjourney đã sử dụng hệ thống này để đào tạo mô hình của mình.
Theo báo cáo, hệ thống chip của Google khi so sánh với những thiết bị có kích thước tương đương, nhanh hơn hơn 1,7 lần và tiết kiệm năng lượng hơn 1,9 lần so với chip A100 của Nvidia.
Tuy nhiên, Google từ chối so sánh hiệu năng với con chip H100 hàng đầu của Nvidia với lý do H100 ra mắt sau và được sản xuất bằng công nghệ mới hơn.
Theo Thế Vinh (VietNamNet)
 
									 
									 
									 
									 
									 
									 
									 
									- Phạm tội ở ngoài lãnh thổ Việt Nam bị xử lý như thế nào? (08:30)
- Người phụ nữ mắc ung thư phổi giai đoạn cuối, bật khóc khi biết "thủ phạm" chính từ chống con (08:18)
- Hóa trang Ông Thọ gây tranh cãi, Quỳnh Anh Shyn xin lỗi và gỡ ảnh sau phản ứng từ Vinamilk (08:12)
- FIFA có bằng chứng 'không thể chối cãi' cầu thủ nhập tịch không có gốc gác Malaysia? (08:02)
- MacBook mới lột xác với thiết kế hoàn toàn mới, mỏng nhẹ hơn, màn hình OLED, có Dynamic Island và cảm ứng được (39 phút trước)
- Từ sinh viên công nghệ đến kẻ cầm súng sát hại 3 người ở Đồng Nai: Hé lộ kế hoạch lạnh người trước khi gây án (46 phút trước)
- Nữ streamer 180.000 người theo dõi bị bắt vì quảng bá cờ bạc online trái phép (54 phút trước)
- Danh tính nam thanh niên bốc đầu xe máy trên đường Xuân Tảo (1 giờ trước)
- Không khí lạnh tăng cường, cảnh báo lũ trên các sông ở miền Trung (1 giờ trước)
- Quá khứ "cánh tay phải" của Hoàng Hường bị bắt: Đứng sau loạt thần dược, lộ cách vận hành hệ thống công ty (1 giờ trước)
 
									 
									 
									 
									 
									 
								 
								 
								