Khi một mô hình không thể chạy trong trình duyệt của bạn

Trình hỗ trợ có thể chạy một mô hình AI nhỏ ngay trong trình duyệt của bạn. Mô hình này cần một tính năng đồ họa gọi là WebGPU. Nếu trình duyệt của bạn không hỗ trợ WebGPU, danh sách mô hình sẽ để trống.

Bản thân quá trình kiểm tra sơ bộ không cần card đồ họa. Nó luôn hoạt động. Trang này chỉ dành cho mô hình trả lời các câu hỏi bằng ngôn ngữ của riêng bạn.

1. Kiểm tra phiên bản trình duyệt của bạn

WebGPU hoạt động trên các trình duyệt sau.

• Chrome — phiên bản 113 trở lên.
• Edge — phiên bản 113 trở lên.
• Firefox trên Windows — phiên bản 141 trở lên.
• Firefox trên máy Mac dùng chip Apple — phiên bản 145 trở lên.
• Safari trên macOS, iPhone hoặc iPad — phiên bản 26 trở lên.
• Chrome trên Android — phiên bản 121 trở lên, trên Android 12 trở lên.

Trên Linux, Chrome và Edge giữ WebGPU phía sau một tùy chọn cài đặt. Hãy mở chrome://flags/#enable-unsafe-webgpu, bật nó lên, sau đó khởi động lại trình duyệt. Firefox trên Linux hiện chưa hỗ trợ WebGPU.

2. Bật tăng tốc phần cứng đồ họa

Hãy kiểm tra bước này thứ hai, vì đây là nguyên nhân phổ biến nhất. Nhiều máy tính ở trường học và văn phòng đã tắt tính năng tăng tốc đồ họa. Máy tính có khả năng hỗ trợ, nhưng trình duyệt đơn giản là không thể kết nối với card đồ họa.

1. Mở cài đặt trình duyệt của bạn.
2. Tìm kiếm từ khóa graphics trong phần cài đặt.
3. Bật tùy chọn Sử dụng tăng tốc đồ họa khi khả dụng.
4. Khởi động lại trình duyệt.

3. Cập nhật trình điều khiển màn hình (display driver)

Trình điều khiển màn hình cũ sẽ khiến card đồ họa của bạn nằm trong danh sách chặn của trình duyệt. Khi đó, trình duyệt sẽ báo không có WebGPU, ngay cả trên máy tính mới. Hãy yêu cầu nhân viên IT cập nhật trình điều khiển màn hình.

4. Đọc báo cáo của trình duyệt

Chrome và Edge sẽ giải thích lý do của chúng.

1. Mở chrome://gpu trong một tab mới.
2. Tìm dòng WebGPU ở gần phía trên cùng.
3. Hardware accelerated nghĩa là WebGPU đang hoạt động.
4. Bất kỳ giá trị nào khác đều cho biết lý do không hoạt động.

Nếu không có cách nào giúp ích

Máy tính của bạn không thể chạy mô hình bên trong trình duyệt. Hai cách khác để sử dụng trình hỗ trợ vẫn khả dụng.

• Tìm kiếm các ràng buộc. Mô tả những gì bạn muốn bằng ngôn ngữ của riêng bạn. Công cụ tìm kiếm sẽ tìm các ràng buộc FET phù hợp. Cách này không cần mô hình và không cần tải xuống.
• Sử dụng khóa nhà cung cấp của riêng bạn. Khi đó, mô hình sẽ chạy trên máy tính của nhà cung cấp đó. Khóa của bạn vẫn nằm trong trình duyệt của bạn.

Quá trình kiểm tra sơ bộ không bị ảnh hưởng bởi bất kỳ điều nào ở trên. Nó đọc tệp của bạn, chứng minh những gì không thể xây dựng và không cần card đồ họa.