Các nhà nghiên cứu AI đặt câu hỏi: Điều gì đang xảy ra bên trong hộp đen?

Các nhà nghiên cứu AI đặt câu hỏi: Điều gì đang xảy ra bên trong hộp đen?

(Nguồn: https://yhocchinhxac.wordpress.com/)

Trợ lý Giáo sư Peter Koo và cộng sự Matt Ploenzke của Phòng thí nghiệm Cold Spring Harbor (CSHL) đã báo cáo một cách huấn luyện máy dự đoán chức năng của chuỗi DNA. Họ đã sử dụng "lưới thần kinh - neural nets", một loại trí tuệ nhân tạo (AI) thường được sử dụng để phân loại hình ảnh. Việc dạy cho mạng lưới thần kinh dự đoán chức năng của các đoạn DNA ngắn cho phép nó hoạt động để giải mã các mẫu lớn hơn. Các nhà nghiên cứu hy vọng sẽ phân tích các chuỗi DNA phức tạp hơn điều chỉnh hoạt động của gen quan trọng đối với sự phát triển và bệnh tật. 

Các nhà nghiên cứu học máy có thể huấn luyện một máy tính giống như "mạng lưới thần kinh - neural net" của não để nhận dạng các vật thể, chẳng hạn như mèo hoặc máy bay, bằng cách hiển thị cho nó nhiều hình ảnh của từng vật thể. Để kiểm tra mức độ thành công của quá trình huấn luyện đòi hỏi phải cho máy xem hình ảnh một con mèo hoặc một chiếc máy bay mới và xem nó có phân loại chính xác hay không. Tuy nhiên, khi các nhà nghiên cứu áp dụng công nghệ này để phân tích các mẫu DNA, họ đã gặp vấn đề. Con người không thể nhận ra các mẫu, vì vậy họ có thể không biết liệu máy tính có xác định đúng  hay không. Lưới thần kinh học và đưa ra quyết định độc lập với các lập trình viên của chúng. Các nhà nghiên cứu gọi quá trình ẩn này như một "hộp đen - black box". Thật khó để tin tưởng vào kết quả đầu ra của máy nếu chúng ta không biết điều gì đang xảy ra trong hộp. 

Koo và nhóm của ông đã đưa các trình tự DNA (bộ gen) vào một loại mạng thần kinh cụ thể được gọi là mạng nơ-ron phức hợp (convolutional neural network - CNN), giống như cách não động vật xử lý hình ảnh. Koo nói: 

"Có thể khá dễ dàng để giải thích các mạng lưới thần kinh này bởi vì chúng sẽ chỉ ra, giả sử như râu của một con mèo. Và đó là lý do tại sao nó là một con mèo so với một chiếc máy bay. ở một hình thức mà con người thực sự hiểu bất kỳ mô hình nào mà các mạng nơ-ron này hướng tới. " 

Nghiên cứu của Koo, được báo cáo trên tạp chí Nature Machine Intelligence, đã giới thiệu một phương pháp mới để dạy các hình mẫu DNA quan trọng tới một tầng của CNN của ông. Điều này cho phép mạng nơ-ron của ông xây dựng dựa trên dữ liệu để xác định các hình mẫu phức tạp hơn. Khám phá của Koo giúp bạn có thể nhìn vào bên trong hộp đen và xác định một số tính năng chính dẫn đến quá trình ra quyết định của máy tính.

Nhưng Koo có một mục đích lớn hơn trong lĩnh vực trí tuệ nhân tạo. Có hai cách để cải thiện mạng lưới thần kinh: khả năng diễn giải và tính mạnh mẽ. Khả năng giải thích đề cập đến khả năng con người giải mã tại sao máy móc đưa ra một dự đoán nhất định. Khả năng đưa ra câu trả lời ngay cả khi có sai sót trong dữ liệu được gọi là tính mạnh mẽ. Thông thường, các nhà nghiên cứu tập trung vào cái này hay cái kia. Koo nói: 

"Những gì nghiên cứu của tôi đang cố gắng làm là kết nối hai thứ này lại với nhau bởi vì tôi không nghĩ chúng là những thực thể riêng biệt. Tôi nghĩ rằng chúng ta sẽ có khả năng diễn giải tốt hơn nếu các mô hình của chúng ta mạnh mẽ hơn." 

Koo hy vọng rằng nếu một cỗ máy có thể tìm ra các hình mẫu DNA mạnh mẽ và có thể giải thích được liên quan đến quy định gen, nó sẽ giúp các nhà di truyền học hiểu được cách đột biến ảnh hưởng đến ung thư và các bệnh khác.