Huấn luyện robot bằng sóng não con người: Nước đi đột phá giải bài toán dữ liệu AI
Biên giới của AI vật lý hiện đang nằm ở một trò chơi rút gỗ Jenga bên trong một nhà kho tại San Leandro, California.
Nhà kho đó thuộc về Encord, một công ty chuyên xây dựng các công cụ dữ liệu dùng để huấn luyện mô hình AI. Andrew Ceja là một "phi công" thuật ngữ công ty dùng để chỉ những người huấn luyện robot và anh đang cẩn thận rút từng thanh gỗ từ một tòa tháp chênh vênh, trên đầu đội một chiếc kính gắn camera theo dõi những gì anh nhìn thấy. Riêng điều đó đã khá phổ biến trong việc thu thập dữ liệu huấn luyện robot, nhưng chiếc kính này còn bao gồm các cảm biến đo sóng não của anh trong khi anh cẩn thận tháo dỡ tháp gỗ.
Encord là một trong số ít (nhưng đang ngày càng tăng) các công ty khởi nghiệp đang đặt cược rằng rào cản thực sự tiếp theo đối với robot hình người và robot nhà kho sẽ không nằm ở kiến trúc mô hình, mà là sự khan hiếm tuyệt đối của dữ liệu huấn luyện vật lý trong thế giới thực. Thay vì chỉ giúp các công ty robot quản lý dữ liệu họ đang có, Encord đang xây dựng một mô hình kinh doanh xoay quanh việc sản xuất ra những dữ liệu mà họ còn thiếu.
Thiết bị đeo đo sóng não mà Ceja đang sử dụng do Zander Labs chế tạo, một công ty khởi nghiệp về khoa học thần kinh của Đức. Công ty này đang đặt cược rằng việc đo lường hoạt động của não bộ nhằm suy luận ra các trạng thái tinh thần như sự sai sót, ý định và sự ngạc nhiên có thể tạo ra một tập dữ liệu hữu ích hơn để huấn luyện các mô hình. Sự hợp tác giữa Encord với Zander hiện đang ở giai đoạn thử nghiệm; Encord cho biết mục tiêu là xây dựng một tập dữ liệu ban đầu được gắn thẻ sóng não, chạy nó qua các mô hình robot của khách hàng và đánh giá xem liệu nó có thực sự cải thiện hiệu suất hay không trước khi quyết định mở rộng quy mô.
Lucas Gehrke, một nhà khoa học thần kinh của Zander giám sát công việc này, cho biết lượng hoạt động não bộ được sử dụng tại bất kỳ thời điểm nào trong một nhiệm vụ nhất định sẽ cung cấp manh mối cho những nhà phát triển mô hình, giúp họ tìm ra thời điểm cần triển khai các mô hình đòi hỏi khả năng xử lý cao nhất.
Theo Vineeth Velmurugan, trưởng bộ phận học máy cho robot của Encord, đây là "tiền tuyến" của nỗ lực giải quyết nút thắt dữ liệu về robot. Là một cựu binh từng làm việc tại phòng thí nghiệm robot của OpenAI và công ty tự động hóa nhà kho Berkshire Grey, Velmurugan gia nhập Encord để xây dựng đội ngũ sáng tạo dữ liệu nội bộ cho công ty.
Encord được thành lập để giúp các công ty xây dựng ứng dụng thị giác máy tính trong việc chú thích dữ liệu và đánh giá mô hình. Khi khách hàng của họ Velmurugan cho biết họ làm việc với nhiều công ty robot hàng đầu nhưng không được phép nêu tên bắt đầu áp dụng phương pháp học toàn trình (end-to-end learning) cho các tác vụ thao tác của robot, các giám đốc điều hành nhận ra rằng họ sẽ phải tự sản xuất dữ liệu huấn luyện, thay vì chỉ quản lý nó. "Dữ liệu đó đơn giản là không tồn tại," Velmurugan nói.
Kỳ vọng rằng AI tạo sinh có thể làm cho robot những gì nó đã làm cho chatbot liên tục vấp phải cùng một bức tường này. Các công ty xe tự lái tự mình thu thập dữ liệu thế giới thực, nhưng điều đó rất khó để mở rộng quy mô. Việc huấn luyện từ video có thể hiệu quả, nhưng nó thiếu đi độ trung thực của dữ liệu thế giới thực. Velmurugan cho biết sẽ cần một tập dữ liệu có kích thước gấp khoảng năm lần kho video của YouTube để tạo ra sự đột phá một quy mô giúp lý giải tại sao bản thân việc tạo ra dữ liệu đã trở thành một mảng kinh doanh chứ không chỉ là một vấn đề nghiên cứu.
Đáp ứng nhu cầu dữ liệu góc nhìn thứ nhất
Các công ty phát triển "bộ não" cho robot hiện đang chuyển hướng sang hai nguồn chính: video "góc nhìn thứ nhất" (egocentric) do các công nhân đeo camera thu thập, thường được tăng cường thêm các góc quay khác cùng nhiều số liệu định lượng, và dữ liệu từ các robot được điều khiển từ xa. Encord thực hiện cả hai phương pháp này, thu thập dữ liệu góc nhìn thứ nhất từ một số nhà máy trên toàn cầu và sử dụng cơ sở ở San Leandro để thử nghiệm các phương thức mới, chẳng hạn như sóng não, hoặc thu thập các tập dữ liệu xoay quanh các kỹ năng cụ thể để tinh chỉnh.
Khi TechCrunch đến thăm, các "phi công" đang sử dụng hệ thống thiết bị dẫn đường-bám sát (leader-follower rigs) gồm các cánh tay robot được ghép nối, một cánh tay do con người trực tiếp điều khiển và cánh tay còn lại sẽ bắt chước các chuyển động đó để tạo dữ liệu về các tác vụ như rót cà phê từ bình sang cốc (rất dễ bị sánh ra ngoài) và xếp chồng các đồng thỉnh (poker chips). "Mọi công ty sản xuất robot hình người đều yêu cầu chúng tôi cung cấp những dữ liệu này," Velmurugan chia sẻ.
Các giá đỡ chứa những thùng hoa giả cắm trong bình, sách vở, rau củ bằng nhựa, khay vệ sinh và xẻng xúc cát cho mèo, túi xách cùng các bó dây điện những đạo cụ quen thuộc để huấn luyện khả năng thao tác cho các tác vụ nội trợ.
Tại một trong những trạm này, một phi công khác, Sofia Infante, đang điều khiển các cánh tay robot để cắm và rút cáp ethernet từ phía sau một máy chủ loại công việc mà các nhà điều hành trung tâm dữ liệu rất mong muốn được tự động hóa, giá như robot có thể thao tác với độ chính xác cần thiết. Khi thử ngồi vào vị trí điều khiển, tôi đã hiểu tại sao điều đó vẫn còn nằm ngoài tầm với: Các ngàm kẹp kém khéo léo hơn rất nhiều so với ngón tay con người và thiếu đi các bậc tự do mà chúng ta coi là điều hiển nhiên ở cánh tay của mình.
Một phương thức dữ liệu mới khác mà Encord đang phát triển sử dụng một bộ cảm biến gắn trên cẳng tay để phát hiện các tín hiệu điện trong cơ bắp. Video quay cảnh bàn tay con người thao tác với đồ vật thường không chụp được toàn bộ bàn tay, nhưng Velmurugan hy vọng có thể xây dựng một bản mô phỏng 3D về vị trí của bàn tay tại bất kỳ thời điểm nào dựa trên các cảm biến ở cánh tay, tạo ra một sự hiểu biết vững chắc hơn cho các mô hình.
Các tập dữ liệu của Encord được chú thích bằng các mô tả vật lý về những gì chứa trong mỗi video chẳng hạn "bàn tay phải siết chặt bu-lông" để hỗ trợ các mô hình dựa trên Mô hình ngôn ngữ lớn (LLM) hiểu được chuyện gì đang xảy ra. Velmurugan ước tính kiểu chú thích dày đặc này có giá trị gấp 100 lần so với "dữ liệu góc nhìn thứ nhất kém chất lượng" trong việc huấn luyện các tác vụ cụ thể, và chi phí sản xuất chỉ cao hơn 20 lần, một bài toán đánh đổi mang lại lợi ích tốt, ít nhất là trên lý thuyết.
Nhưng "chi phí cao hơn 20 lần" vẫn là một số tiền thực tế, và đó chính là điểm mấu chốt: việc trích xuất văn bản từ internet, cách thức mà các nhà phát triển LLM xây dựng mô hình của họ bằng cách lấy dữ liệu từ Stack Overflow và phần còn lại của nền tảng web, khiến các phòng nghiên cứu tiên phong gần như không tốn một đồng nào. Việc tạo ra dữ liệu huấn luyện vật lý thì không như vậy, và đó chính là giới hạn của việc so sánh AI vật lý với LLM. Loại dữ liệu này phải được sản xuất, chứ không chỉ đơn thuần là thu thập, và điều đó làm thay đổi bài toán kinh tế trong việc xây dựng các mô hình này.
Velmurugan cho biết những bước tiến đang được thiết lập với tầm nhìn bao quát của Encord đối với các chương trình trong toàn ngành, anh có thể thấy cả các công ty khởi nghiệp lẫn các phòng nghiên cứu tiên phong đều đang tìm ra những gì hiệu quả và không hiệu quả để cải thiện mô hình AI vật lý. Lợi thế về vị trí đó đứng giữa nhiều công ty robot cùng một lúc cũng là một phần trong thông điệp chào hàng của Encord. Công ty có thể phát hiện những kỹ thuật dữ liệu nào đang thu hút sự chú ý trên toàn ngành trước bất kỳ khách hàng cá nhân nào.
Điều đó sẽ khiến khoảng chục phi công tại cơ sở của Encord luôn bận rộn. Cả Infante và Ceja đều là một phần của lực lượng lao động đang phát triển mạnh mẽ nhằm xây dựng các khối nền tảng cho mạng nơ-ron; họ từng làm việc tại Scale, một công ty chú thích dữ liệu AI khác, trước khi gia nhập Encord.
Ceja từng làm việc tại một công ty quản lý chất thải, nơi niềm đam mê công nghệ đã đưa anh đến với nhiệm vụ duy trì một cỗ máy robot phân loại rác hoạt động trơn tru. Giờ đây, khi tòa tháp Jenga đổ sụp, anh cho biết mình rất thích thú với thử thách giải quyết các bài toán huấn luyện cho robot "Mỗi ngày đều là một điều mới mẻ!"
