Công nghệ đọc suy nghĩ đã xuất hiện

Sigal Samuel là phóng viên cao cấp của Vox's Future Perfect và đồng dẫn chương trình podcast Future Perfect. Cô viết chủ yếu về tương lai của ý thức, theo dõi những tiến bộ trong trí tuệ nhân tạo và khoa học thần kinh và ý nghĩa đạo đức đáng kinh ngạc của chúng. Trước khi gia nhập Vox, Sigal là biên tập viên tôn giáo tại Atlantic.

Trong một vài năm nay, cô đã viết các bài báo về công nghệ thần kinh. Một trong những bài báo gây chấn động của cô có tiêu đề cảnh báo "Facebook đang xây dựng công nghệ để đọc suy nghĩ của bạn" và "Công nghệ đọc não đang đến". Chà, công nghệ không còn chỉ "đến" nữa. Nó hiện đang ở đây.

Bối cảnh chung của công nghệ hiện tại

Trước đây, các nhà nghiên cứu đã chỉ ra rằng họ có thể giải mã ngôn ngữ không nói bằng cách cấy các điện cực vào não và sau đó sử dụng thuật toán đọc hoạt động của não và dịch nó thành văn bản trên màn hình máy tính. Nhưng cách làm đó rất xâm lấn và cần thực hiện các cuộc phẫu thuật phức tạp. Nó chỉ hấp dẫn một nhóm nhỏ bệnh nhân, như những người bị liệt, những người mà lợi ích xứng đáng với chi phí. Vì vậy, các nhà nghiên cứu cũng phát triển các kỹ thuật không liên quan đến cấy ghép phẫu thuật. Các kỹ thuật này đủ tốt để giải mã các trạng thái não cơ bản, như mệt mỏi, hoặc các cụm từ rất ngắn - nhưng không nhiều hơn.

Với sự trợ giúp của AI, các nhà khoa học từ Đại học Texas ở Austin đã phát triển một kỹ thuật có thể chuyển hoạt động não của mọi người - giống như những suy nghĩ không nói ra xoáy qua tâm trí của chúng ta - thành lời nói thực tế, theo một nghiên cứu được công bố trên tạp chí Nature. Bây giờ chúng ta đã có một giao diện não - máy tính không xâm lấn (BCI) có thể giải mã ngôn ngữ liên tục từ não, vì vậy người khác có thể đọc ý chính chung về những gì chúng ta đang nghĩ ngay cả khi chúng ta không thốt ra một từ nào.

Làm sao điều này có thể xảy ra?

Nó bắt nguồn từ sự kết hợp của hai công nghệ: quét fMRI, đo lưu lượng máu đến các khu vực khác nhau của não và các mô hình ngôn ngữ AI lớn, tương tự như ChatGPT khét tiếng hiện nay.

Trong nghiên cứu của Đại học Texas, ba người tham gia đã nghe podcast kể chuyện kéo dài 16 giờ như The Moth trong khi các nhà khoa học sử dụng máy fMRI để theo dõi sự thay đổi lưu lượng máu trong não của họ. Dữ liệu đó cho phép các nhà khoa học, sử dụng mô hình AI, liên kết một cụm từ với bộ não của mỗi người trông như thế nào khi nghe cụm từ cụ thể đó.

Bởi vì số lượng chuỗi từ có thể rất lớn và nhiều trong số chúng sẽ vô nghĩa, các nhà khoa học cũng sử dụng mô hình ngôn ngữ - cụ thể là GPT-1 - để thu hẹp các chuỗi có thể thành tiếng Anh được hình thành tốt và dự đoán từ nào có khả năng xuất hiện tiếp theo trong một chuỗi.

Kết quả là một bộ giải mã hiểu đúng ý chính, mặc dù nó không đóng đinh từng từ. Ví dụ, những người tham gia được yêu cầu tưởng tượng kể một câu chuyện khi ở trong máy fMRI. Sau đó, họ lặp lại nó thành tiếng để các nhà khoa học có thể thấy câu chuyện được giải mã khớp với bản gốc như thế nào.

Khi người tham gia nghĩ, "Hãy tìm một tin nhắn từ vợ tôi nói rằng cô ấy đã thay đổi ý định và cô ấy sẽ trở lại", bộ giải mã dịch: "Để gặp cô ấy vì một số lý do, tôi nghĩ cô ấy sẽ đến với tôi và nói rằng cô ấy nhớ tôi."

Đây là một ví dụ khác. Khi người tham gia nghĩ, "Đi xuống một ngọn đồi với tôi trên ván trượt và anh ta đang đi rất nhanh và anh ta dừng lại đúng lúc," bộ giải mã dịch: "Anh ta không thể đến với tôi đủ nhanh, anh ta lái xe thẳng vào làn đường của tôi và cố gắng đâm tôi."

Nó không phải là một bản dịch từng từ, nhưng phần lớn ý nghĩa chung được bảo tồn. Điều này đại diện cho một bước đột phá vượt xa những gì công nghệ đọc não trước đây có thể làm - và một bước ngoặt đặt ra những câu hỏi đạo đức nghiêm trọng.

Ý nghĩa đạo đức đáng kinh ngạc của giao diện não - máy tính

Có thể khó tin rằng điều này là có thật, không phải là một cái gì đó trong tiểu thuyết của Neal Stephenson hay William Gibson. Nhưng loại công nghệ này đã thay đổi cuộc sống của mọi người. Trong hàng chục năm qua, một số bệnh nhân bị liệt đã được cấy ghép não cho phép họ di chuyển con trỏ máy tính hoặc điều khiển cánh tay robot bằng suy nghĩ của họ.

Neuralink của Elon Musk và Meta của Mark Zuckerberg đang nghiên cứu BCI có thể thu thập suy nghĩ trực tiếp từ tế bào thần kinh của bạn và dịch chúng thành từ trong thời gian thực, một ngày nào đó có thể cho phép bạn điều khiển điện thoại hoặc máy tính chỉ bằng suy nghĩ của mình.

Các BCI không xâm lấn, thậm chí di động có thể đọc suy nghĩ vẫn còn nhiều năm nữa mới có sẵn trên thị trường. Sau tất cả, bạn không thể mang theo một máy fMRI, có thể có giá tới 3 triệu đô la. Nhưng phương pháp giải mã của nghiên cứu cuối cùng có thể được điều chỉnh cho các hệ thống di động như quang phổ cận hồng ngoại chức năng (fNIRS), đo hoạt động tương tự như fMRI, mặc dù với độ phân giải thấp hơn.

Đó có phải là một điều tốt?

Cũng như nhiều đổi mới tiên tiến, điều này sẽ gây ra những khó khăn đạo đức nghiêm trọng. Hãy bắt đầu với điều rõ ràng nhất. Não bộ của chúng ta là biên giới riêng tư cuối cùng. Nó là trụ sở của cá nhân và những suy nghĩ thân mật nhất của chúng ta. Nếu 1 kg của chất nhầy quý giá trong hộp sọ không thuộc quyền kiểm soát của chúng ta, thì còn điều gì thuộc về chúng ta nữa?

Hãy tưởng tượng một tình huống mà các công ty có quyền truy cập vào dữ liệu não bộ của con người. Họ có thể sử dụng dữ liệu đó để tiếp thị sản phẩm đến chúng ta theo cách mà não bộ của chúng ta tìm thấy gần như không thể cưỡng lại. Vì quyết định mua hàng của chúng ta chủ yếu được thúc đẩy bởi ấn tượng vô thức, nhà quảng cáo không thể có thông tin hữu ích từ các cuộc khảo sát người tiêu dùng hoặc nhóm tập trung. Họ có thể có thông tin tốt hơn nhiều bằng cách tiếp cận trực tiếp nguồn gốc: não bộ của người tiêu dùng.

Hiện nay, các nhà quảng cáo trong lĩnh vực "neuromarketing" đang cố gắng làm điều đó bằng cách nghiên cứu cách não bộ của con người phản ứng khi xem quảng cáo. Nếu nhà quảng cáo có được dữ liệu não bộ trên quy mô lớn, bạn có thể thấy mình có cảm giác mạnh mẽ muốn mua những sản phẩm cụ thể mà không chắc chắn lý do tại sao.

Hoặc tưởng tượng một kịch bản mà các chính phủ sử dụng BCI để giám sát, hoặc cảnh sát sử dụng chúng để thẩm vấn. Nguyên tắc chống tự buộc tội - được ghi trong Hiến pháp Hoa Kỳ - có thể trở nên vô nghĩa trong một thế giới nơi chính quyền được trao quyền nghe lén trạng thái tinh thần của bạn mà không cần sự đồng ý của bạn. Đó là một kịch bản gợi nhớ đến bộ phim khoa học viễn tưởng Minority Report, trong đó một đơn vị cảnh sát đặc biệt được gọi là PreCrime Division xác định và bắt giữ những kẻ giết người trước khi họ phạm tội.

Một số nhà đạo đức thần kinh cho rằng tiềm năng lạm dụng các công nghệ này lớn đến mức chúng ta cần sửa đổi luật nhân quyền để bảo vệ chúng ta trước khi chúng được triển khai.

"Nghiên cứu này cho thấy AI tạo ra nhanh như thế nào cho phép ngay cả những suy nghĩ của chúng ta được đọc", Nita Farahany, tác giả của The Battle for Your Brain, nói với tôi. "Trước khi công nghệ thần kinh được sử dụng ở quy mô lớn trong xã hội, chúng ta cần bảo vệ nhân loại bằng quyền tự quyết đối với bộ não và trải nghiệm tinh thần của chúng ta."

Đối với các tác giả của nghiên cứu, họ lạc quan - cho đến bây giờ. "Phân tích quyền riêng tư của chúng tôi cho thấy rằng sự hợp tác chủ đề hiện đang được yêu cầu cả để đào tạo và áp dụng bộ giải mã", họ viết.

Điều quan trọng, quá trình này chỉ hoạt động với những người tham gia hợp tác đã sẵn sàng tham gia đào tạo bộ giải mã. Và những người tham gia đó có thể vứt bỏ bộ giải mã nếu sau này họ muốn; Khi họ đưa ra sự kháng cự bằng cách đặt tên cho động vật hoặc đếm, kết quả không thể sử dụng được. Đối với những người có hoạt động não mà bộ giải mã chưa được đào tạo, kết quả là vô nghĩa.

"Tuy nhiên, những phát triển trong tương lai có thể cho phép các bộ giải mã bỏ qua các yêu cầu này", các tác giả cảnh báo. "Hơn nữa, ngay cả khi dự đoán của bộ giải mã không chính xác nếu không có sự hợp tác của chủ đề, chúng có thể bị cố tình hiểu sai cho mục đích xấu."

Đây chính xác là loại tương lai khiến Farahany lo lắng. "Chúng ta thực sự đang ở thời điểm trước đây, nơi chúng ta có thể đưa ra lựa chọn để bảo vệ quyền tự do nhận thức của mình - quyền tự quyết đối với bộ não và trải nghiệm tinh thần của chúng ta - hoặc cho phép công nghệ này phát triển mà không cần biện pháp bảo vệ". Bài viết này nói rõ rằng thời điểm này là một khoảnh khắc rất ngắn, chúng ta có cơ hội cuối cùng để có được quyền này cho nhân loại.