Bot ChatGPT của OpenAI bị FTC thăm dò về tác hại đối với người tiêu dùng

OpenAI CEO Sam Altman phát biểu tại một sự kiện ở Đại học Keio, Tokyo, Nhật Bản vào ngày 12/06/2023.

Ủy ban Thương mại Liên bang Hoa Kỳ đã mở một cuộc điều tra đối với OpenAI Inc., đặt câu hỏi liệu bot AI đàm thoại ChatGPT phổ biến của họ có khiến danh tiếng và dữ liệu của người tiêu dùng gặp rủi ro hay không?

Cuộc điều tra về công ty khởi nghiệp do Microsoft Corp. hậu thuẫn đánh dấu cuộc điều tra chính thức đầu tiên về một công nghệ có khả năng thay đổi hầu hết mọi khía cạnh trong cuộc sống của con người và gần như trở nên hấp dẫn không kém vì tiềm năng hoạt động không như ý muốn của nó. Chủ tịch FTC Lina Khan, người đã điều trần trước Quốc hội hôm thứ Năm, trước đây đã nêu lên những lo ngại về AI, nói rằng những người thực thi “cần phải cảnh giác sớm” với các công cụ biến đổi như trí tuệ nhân tạo.

Microsoft từ chối bình luận. Trong một loạt các tweet hôm thứ Năm, Giám đốc điều hành OpenAI Sam Altman cho biết “tất nhiên chúng tôi sẽ làm việc với FTC” và điều “cực kỳ quan trọng” đối với công ty là công nghệ của họ “an toàn và thân thiện với người tiêu dùng”. Altman cũng cho biết OpenAI “tự tin” rằng nó tuân thủ luật pháp Hoa Kỳ.

"Chúng tôi bảo vệ quyền riêng tư của người dùng và thiết kế hệ thống của chúng tôi để tìm hiểu về thế giới, không phải cá nhân", ông nói.

Tờ Washington Post trước đó đã đưa tin về cuộc điều tra của FTC.

Cuộc điều tra của FTC mở ra một loạt các quy định mạnh mẽ tại OpenAI có trụ sở tại San Francisco, công ty hàng đầu về công nghệ AI tạo ra ứng dụng ChatGPT đã gây ra một cuộc đua giữa các công ty trên gần như mọi ngành để phát triển các chatbot cạnh tranh của riêng họ. ChatGPT được xây dựng dựa trên một mô hình ngôn ngữ lớn, được đào tạo trên các dải văn bản khổng lồ từ internet để nó có thể tạo ra câu trả lời cho các câu hỏi theo cách nghe giống con người.

Divyansh Kaushik, phó giám đốc phụ trách các công nghệ mới nổi và an ninh quốc gia tại Liên đoàn các nhà khoa học Mỹ, một tổ chức tư vấn phi đảng phái ở Washington, cho biết: “Cuộc điều tra là một bước phát triển quan trọng có thể có ý nghĩa đối với cả công ty và lĩnh vực đổi mới AI rộng lớn hơn. . “Điều đó báo hiệu rằng các cơ quan quản lý đang trở nên chủ động hơn trong việc đảm bảo rằng các công ty AI hoạt động có đạo đức và có trách nhiệm”.

Sự phát triển nhanh chóng của công nghệ trong tám tháng qua kể từ khi ChatGPT trở nên phổ biến rộng rãi, đã thúc đẩy các cuộc gọi về quy định và tạm dừng đào tạo các hệ thống AI tiên tiến, ngay cả trong số những người đứng đầu một số công ty hàng đầu trong lĩnh vực này, chẳng hạn như OpenAI, DeepMind của Anthropic và Alphabet Inc.

Altman đã thẳng thắn đề xuất quy định. Trong một phiên điều trần vào tháng 5, Altman cho biết Quốc hội nên tạo ra các tiêu chuẩn an toàn mạnh mẽ cho các hệ thống AI tiên tiến. Altman nói: “Nếu công nghệ này gặp trục trặc, nó có thể trở nên tồi tệ. Chủ sở hữu Twitter, Elon Musk, cũng là một trong những người có tiếng nói lớn nhất cảnh báo về những hậu quả tiềm ẩn của việc lồng ghép AI.

Một nhóm đạo đức công nghệ nổi tiếng đã đệ đơn khiếu nại vào tháng 3 kêu gọi FTC ngừng triển khai thương mại hơn nữa công nghệ hỗ trợ ChatGPT. Khiếu nại từ Trung tâm Trí tuệ nhân tạo và Chính sách kỹ thuật số, do người ủng hộ quyền riêng tư lâu năm Marc Rotenberg đứng đầu, đã kêu gọi FTC mở cuộc điều tra và “đảm bảo thiết lập các biện pháp bảo vệ cần thiết để bảo vệ người tiêu dùng, doanh nghiệp và thị trường thương mại.”

Khan cho biết, FTC, cơ quan thực thi cả luật chống độc quyền và bảo vệ người tiêu dùng, cũng đang xem xét kỹ cách cạnh tranh đang phát triển trong không gian để đảm bảo các công ty thống trị không sử dụng quyền lực của họ đối với các đầu vào quan trọng như dữ liệu để phân biệt đối xử với các đối thủ . Cơ quan này cũng đang theo dõi cách những kẻ lừa đảo sử dụng các công cụ AI và sẽ thực thi luật pháp, không chỉ chống lại những kẻ lừa đảo mà còn chống lại các công ty kích hoạt chúng, cô nói.

Trong một bức thư dài 20 trang gửi tới OpenAI trong tuần này, FTC đã yêu cầu công ty cung cấp các mô tả chi tiết về tất cả các khiếu nại mà họ đã nhận được về các sản phẩm của mình đưa ra những tuyên bố “sai lệch, gây hiểu lầm, chê bai hoặc có hại” về con người, theo Washington Post. FTC đang xem xét liệu công ty có tham gia vào các hành vi không công bằng hoặc lừa đảo gây ra “tổn hại về uy tín” cho người tiêu dùng hay không, theo Post.

FTC cũng yêu cầu công ty cung cấp hồ sơ liên quan đến sự cố bảo mật mà công ty đã tiết lộ vào tháng 3 khi một lỗi trong hệ thống của họ cho phép một số người dùng xem thông tin liên quan đến thanh toán, cũng như một số dữ liệu từ lịch sử trò chuyện của những người dùng khác.

Khan phải đối mặt với sự chỉ trích gay gắt tại Quốc hội vào thứ Năm trong phiên điều trần trước Ủy ban Tư pháp Hạ viện, nơi các nhà lập pháp Đảng Cộng hòa tấn công việc bà tuân thủ luật đạo đức và thực thi chống độc quyền quyết liệt, gán cho bà là “kẻ bắt nạt” và nói rằng sự lãnh đạo của bà là “một thảm họa”.