“Quản lý đưa AI vào tầm ngắm để bảo vệ người tiêu dùng và người lao động”

Khi mối lo ngại gia tăng về các hệ thống trí tuệ nhân tạo ngày càng mạnh mẽ như ChatGPT, cơ quan giám sát tài chính của đất nước cho biết họ đang làm việc để đảm bảo các công ty tuân thủ luật pháp khi họ sử dụng AI.

Hiện tại, các hệ thống và thuật toán tự động giúp xác định xếp hạng tín dụng, thời hạn cho vay, phí tài khoản ngân hàng và các khía cạnh khác trong đời sống tài chính của chúng ta. AI cũng ảnh hưởng đến việc tuyển dụng, nhà ở và điều kiện làm việc.

Ben Winters, Cố vấn cao cấp của Trung tâm Thông tin Quyền riêng tư Điện tử, cho biết tuyên bố chung về việc thực thi do các cơ quan liên bang ban hành vào tháng trước là một bước tích cực đầu tiên.

Ông nói: “Có câu chuyện kể rằng AI không được kiểm soát hoàn toàn, điều đó không thực sự đúng. “Họ nói, Chỉ vì bạn đang sử dụng AI để đưa ra quyết định, điều đó không có nghĩa là bạn được miễn trách nhiệm về tác động của quyết định đó.” Đây là ý kiến ​​​​của chúng tôi về điều này. Chúng tôi đang theo dõi.’” Năm ngoái, Cục Bảo vệ Tài chính Người tiêu dùng cho biết họ đã phạt các ngân hàng vì quản lý yếu kém các hệ thống tự động dẫn đến việc tịch thu nhà, tịch thu ô tô và mất lãi sau khi tổ chức này dựa vào công nghệ mới và gặp trục trặc. thuật toán.

Cơ quan quản lý cho biết sẽ không có “miễn trừ AI” đối với việc bảo vệ người tiêu dùng, chỉ ra hành động thực thi này là một ví dụ.

Giám đốc Cục Bảo vệ Tài chính Người tiêu dùng Rohit Chopra cho biết cơ quan này “đã bắt đầu một số công việc để tiếp tục củng cố nội bộ khi đưa các nhà khoa học dữ liệu, kỹ thuật viên công nghệ và những người khác vào để đảm bảo chúng tôi có thể đáp ứng những thách thức này” và cơ quan này tiếp tục xác định tiềm năng hoạt động trái pháp luật.

Đại diện của Ủy ban Thương mại Liên bang, Ủy ban Cơ hội Việc làm Bình đẳng và Bộ Tư pháp cũng như CFPB đều cho biết họ đang chỉ đạo các nguồn lực và nhân viên nhắm mục tiêu vào các công nghệ mới và xác định những cách tiêu cực mà chúng có thể ảnh hưởng đến cuộc sống của người tiêu dùng.

“Một trong những điều chúng tôi đang cố gắng làm rõ là nếu các công ty không hiểu cách AI của họ đưa ra quyết định, thì họ không thể sử dụng nó,” Chopra nói.

“Trong các trường hợp khác, chúng tôi đang xem xét luật cho vay công bằng của chúng tôi được tuân thủ như thế nào khi sử dụng tất cả dữ liệu này.” Ví dụ, theo Đạo luật Báo cáo Tín dụng Công bằng và Đạo luật Cơ hội Tín dụng Bình đẳng, các nhà cung cấp tài chính có nghĩa vụ pháp lý phải giải thích mọi quyết định tín dụng bất lợi.

Các quy tắc cũng áp dụng cho các quyết định về nhà ở và việc làm. Khi AI đưa ra quyết định theo những cách không rõ ràng để giải thích, các nhà quản lý nói rằng thuật toán không thể được sử dụng.

“Tôi nghĩ rằng có một cảm giác rằng, ‘Ồ, hãy trao nó cho robot và sẽ không còn sự phân biệt đối xử nữa’,” Chopra nói.

“Tôi cho rằng học như vậy là không đúng chút nào. Theo một số cách, sự thiên vị được tích hợp vào dữ liệu.” Chủ tịch EEOC Charlotte Burrows cho biết sẽ có biện pháp thực thi công nghệ tuyển dụng AI để sàng lọc những người xin việc bị khuyết tật, chẳng hạn, cũng như cái gọi là “phần mềm sếp” giám sát người lao động một cách bất hợp pháp.

Burrows cũng giải thích cách các thuật toán có thể xác định cách thức và thời điểm nhân viên có thể làm việc theo cách vi phạm luật hiện hành.

“Nếu bạn cần nghỉ ngơi vì bạn bị khuyết tật hoặc có thể bạn đang mang thai, bạn cần nghỉ ngơi,” cô nói. “Thuật toán không nhất thiết phải tính đến chỗ ở. Đó là điều mà chúng tôi đang xem xét rất cẩn thận… Tôi muốn nói rõ rằng mặc dù chúng tôi nhận ra rằng công nghệ đang phát triển, nhưng thông điệp cơ bản ở đây là luật vẫn được áp dụng và chúng tôi có các công cụ để thực thi luật.” Những người ủng hộ OpenAI hàng đầu, tại một hội nghị trong tháng này, đã đề xuất một cách tiếp cận dẫn đầu ngành đối với quy định.

Jason Kwon, cố vấn chung của OpenAI, phát biểu tại một hội nghị thượng đỉnh công nghệ ở Washington, DC, do tập đoàn công nghiệp phần mềm BSA tổ chức: “Tôi nghĩ rằng trước tiên nó bắt đầu bằng việc cố gắng đạt được một số loại tiêu chuẩn.

“Nó có thể bắt đầu với một tiêu chuẩn ngành và một số hình thức hợp nhất xung quanh nó. Và quyết định về việc có bắt buộc áp dụng nó hay không, cũng như quy trình cập nhật nó là gì, những điều đó có thể là mảnh đất màu mỡ để thảo luận nhiều hơn.” Sam Altman, người đứng đầu OpenAI, công ty đã tạo ra ChatGPT, cho biết sự can thiệp của chính phủ “sẽ rất quan trọng để giảm rủi ro của các hệ thống AI ngày càng mạnh mẽ”, đề xuất thành lập một cơ quan của Hoa Kỳ hoặc toàn cầu để cấp phép và điều chỉnh công nghệ.

Mặc dù không có dấu hiệu ngay lập tức cho thấy Quốc hội sẽ tạo ra các quy định mới về AI, như các nhà lập pháp châu Âu đã làm, nhưng mối quan tâm của công chúng đã đưa Altman và các CEO công nghệ khác đến Nhà Trắng trong tháng này để trả lời những câu hỏi hóc búa về ý nghĩa của công cụ này.

Winters, thuộc Trung tâm thông tin bảo mật điện tử, cho biết cơ quan này có thể làm nhiều hơn nữa để nghiên cứu và công bố thông tin về thị trường AI có liên quan, cách thức hoạt động của ngành, ai là người chơi lớn nhất và cách sử dụng thông tin thu thập được – cách các cơ quan quản lý làm. đã làm trong quá khứ với các sản phẩm và công nghệ tài chính tiêu dùng mới.

“CFPB đang làm khá tốt việc này với các công ty Mua ngay, Trả sau,” ông nói. “Có một số phần của hệ sinh thái AI vẫn chưa được biết đến. Xuất bản thông tin đó sẽ rất hữu ích.”