-
Hôm nay, áp thấp nhiệt đới khả năng thành bão, từ Đà Nẵng trở ra miền Bắc mưa lớn
-
Cận cảnh dàn xe tăng, xe thiết giáp, ngư lôi lần đầu xuất hiện tại triển lãm lớn nhất lịch sử
-
Công bố kết quả nghiên cứu ảnh hưởng của xăng E10 với ô tô, xe máy
-
Cùng đi xem xe, người đàn ông bỏ lại bạn gái rồi lấy xe máy phóng mất hút
-
Cô bé từng xuất hiện trong trận Chung kết Olympia 19 năm trước giờ đã thành Chị Đẹp, cuộc sống thay đổi 180 độ
-
Danh tính nam thanh niên xăm trổ thách thức công an tại chốt bảo vệ sơ duyệt A80
-
Bức ảnh nghiệt ngã: Người trao giải và người nhận giải Miss Audition 2006 đều vướng lao lý
-
TP HCM: Cán bộ, công chức thôi việc sau sắp xếp có thể vay đến 300 triệu đồng
-
Ô tô bất ngờ "sụt hố" trên phố Đội Cấn, Hà Nội
-
Lần đầu tiên người dân có thể bán vàng miếng với giá 127 triệu/lượng
-
Bão số 6 khả năng sắp hình thành, trọng tâm mưa lớn ở miền Trung
-
Vụ 8 cán bộ Quảng Ninh làm lộ bí mật nhà nước: Sơ suất nhỏ có thể phạm điều nghiêm cấm
-
"Ông Ba Minh cưu mang vợ nhặt 11 năm" nhận 1,6 tỷ đồng: Tiền sẽ được sử dụng thế nào?
-
Nhà triệu USD cứ mưa là ngập, vì sao giá không ngừng tăng?
-
iPhone 17 hoàn toàn "mất tích" khỏi đại lý chính hãng Việt Nam
-
"Bảo bối" UAV đa năng ra mắt tại công trình kỷ lục Việt Nam: Vận tốc tối đa 200km/h, có thể mang cả tên lửa
-
Danh tính chàng chiến sĩ 'triệu view' đang gây sốt mạng xã hội dịp lễ 2/9
-
Clip thanh niên đâm bạn tử vong: Hé lộ nguyên nhân phát sinh trên bàn nhậu
-
Cục Cảnh sát kinh tế ra yêu cầu khẩn đối với bà Đào Thị Hương Lan
-
Loạt ngân hàng hướng dẫn cách liên kết tài khoản hưởng an sinh xã hội trên VNeID
Công nghệ
05/04/2023 11:30Google hé lộ ‘át chủ bài’ huấn luyện các AI đình đám
Theo đó, gã khổng lồ tìm kiếm đã tự thiết kế chip tuỳ chỉnh của riêng mình có tên Tensor Processing Unit (TPU) và sử dụng loại chip này cho hơn 90% khối lượng công việc huấn luyện AI, quá trình cung cấp dữ liệu thông qua thuật toán để các mô hình có thể trả lời hiệu quả những truy vấn của người dùng bằng văn bản hoặc hình ảnh.
Dựa trên báo cáo khoa học của Google xuất bản, siêu máy tính của công ty này được kết nối từ hơn 4.000 con chip lại với nhau bằng các công tắc quang học do chính hãng phát triển.

Các mô hình ngôn ngữ lớn hỗ trợ công nghệ trên Bard (Google) hay ChatGPT (OpenAI) đòi hỏi sức mạnh điện toán khổng lồ không thể lưu trữ trên 1 con chip đơn lẻ. Do đó, các công ty chế tạo siêu máy tính tìm cách chia mô hình thành hàng nghìn con chip, kết nối chúng lại để chạy trong nhiều tuần hoặc hơn cho quá trình huấn luyện.
PaLM, mô hình ngôn ngữ công khai lớn nhất đến nay của Google, được đào tạo bằng cách chia thành 2 phần chạy trên siêu máy tính 4.000 chip trong vòng 50 ngày liên tục.
Google cho biết siêu máy tính của hãng khiến việc cấu hình lại kết nối giữa các chip trở nên dễ dàng, nhanh chóng hơn, từ đó tránh được các sự cố và tăng được hiệu suất chung.
“Công tắc chuyển mạch giúp dễ dàng định tuyến xung quanh các thành phần bị lỗi”, Norm Jouppi và David Patterson, 2 chuyên gia của công ty viết trong bài đăng trên blog. “Tính linh hoạt thậm chí cho phép chúng tôi thay đổi cấu trúc liên kết của các siêu máy tính nhằm tăng tốc hiệu suất mô hình máy học”.
Mặc dù đến bây giờ Google mới công khai cấu hình chi tiết siêu máy tính, nhưng cỗ máy này đã được sử dụng trong công ty từ năm 2020 tại một trung tâm dữ liệu ở hạt Mayes, Oklahoma. Hãng cũng chia sẻ, startup Midjourney đã sử dụng hệ thống này để đào tạo mô hình của mình.
Theo báo cáo, hệ thống chip của Google khi so sánh với những thiết bị có kích thước tương đương, nhanh hơn hơn 1,7 lần và tiết kiệm năng lượng hơn 1,9 lần so với chip A100 của Nvidia.
Tuy nhiên, Google từ chối so sánh hiệu năng với con chip H100 hàng đầu của Nvidia với lý do H100 ra mắt sau và được sản xuất bằng công nghệ mới hơn.
Theo Thế Vinh (VietNamNet)








- Tặng 100.000 đồng/người ăn Tết Độc lập: Bao giờ thì nhận được tiền? (6 phút trước)
- Tạm giữ hình sự thanh niên lao xe vào công an tại chốt bảo vệ A80 (12 phút trước)
- U23 Việt Nam: Người giải bài toán hàng công cho HLV Kim Sang Sik (16 phút trước)
- Khám xét khẩn cấp nơi làm việc của 'bầu' Đoan ở Thanh Hóa (24 phút trước)
- Ngân hàng bị mạo danh để lừa tiền, cảnh báo người dân TUYỆT ĐỐI KHÔNG chuyển khoản dù chỉ 1 đồng (31 phút trước)
- Bắt đầu phong sát và điều tra "thánh lố" Ngu Thư Hân (41 phút trước)
- Hôm nay, áp thấp nhiệt đới khả năng thành bão, từ Đà Nẵng trở ra miền Bắc mưa lớn (46 phút trước)
- Xác minh người đàn ông lái thử xe máy rồi phóng mất, bỏ lại người yêu ở cửa hàng: Cô gái kể điều bất ngờ (49 phút trước)
- Bảo vệ kể lý do cô gái Hà Nội phản đòn, khống chế nam thanh niên xăm trổ (52 phút trước)
- Sau một lần “vui tới bến”, chàng trai trẻ bàng hoàng khi bác sĩ đọc hàng loạt kết quả dương tính (1 giờ trước)




