Chu Kỳ Phản Hồi AI và Sự Định Hình Lại Quyền Lực Một Cách Im Lặng

Các thuật toán tiên tiến và trí tuệ nhân tạo ngày càng trung gian hóa thế giới của chúng ta theo những cách tinh tế nhưng sâu sắc. Chúng học hỏi từ hành vi của chúng ta và, ngược lại, định hình hành vi của chúng ta – tạo ra các chu kỳ phản hồi củng cố những mẫu hình nhất định. Từ các chiến thuật cảnh sát và giao dịch tài chính đến tin tức mà chúng ta thấy trên mạng xã hội, những hệ thống do AI điều khiển này đang âm thầm thay đổi ai nắm giữ quyền lực và kiểm soát. Điều làm cho chúng đặc biệt mạnh mẽ là khả năng thích ứng và tự củng cố: một khi đã được khởi động, chúng có thể khuếch đại những thiên kiến hoặc xu hướng mà không cần bất kỳ con người nào chỉ đạo. Bài viết này xem xét cách mà các hệ thống công nghệ tự củng cố như vậy hoạt động trong các lĩnh vực như thực thi pháp luật, tài chính, nền tảng xã hội và quản trị, và tại sao bản chất mờ ám, tự động của chúng đặt ra những thách thức mới cho xã hội.

Cảnh Sát Dự Đoán: Khi Dữ Liệu Trở Thành Định Mệnh

Một ví dụ nổi bật về chu kỳ phản hồi AI là cảnh sát dự đoán – việc sử dụng các thuật toán để dự đoán tội phạm và hướng dẫn thực thi pháp luật. Về lý thuyết, nó hứa hẹn việc triển khai cảnh sát dựa trên dữ liệu đến những nơi có khả năng xảy ra tội phạm. Trong thực tế, nó có thể tạo ra một chu kỳ độc hại. Hãy xem xét “Danh Sách Đối Tượng Chiến Lược” nổi tiếng của Chicago, danh sách này xếp hạng người dựa trên khả năng tham gia vào bạo lực súng đạn. Vào năm 2017, một cư dân Chicago không có tiền án tiền sự đã sốc khi thấy mình nằm trong danh sách này sau khi trở thành nạn nhân của một vụ xả súng. Bởi vì hệ thống đã đánh dấu anh ta (dựa trên các tiêu chí như có liên hệ trước đó với cảnh sát, ngay cả khi là nạn nhân vô tội), anh ta đã trở thành mục tiêu cho sự chú ý và giám sát cảnh sát gia tăng. Điều này tiết lộ một mẫu hình đáng lo ngại: thuật toán đã dựa vào dữ liệu cảnh sát lịch sử – dữ liệu mang theo những thiên kiến hiện có về những khu phố và cá nhân nào bị kiểm soát – và sau đó khuyến nghị tăng cường cảnh sát cho những người và địa điểm đó. Mỗi cuộc gặp gỡ mới với cảnh sát lại được đưa vào phần mềm như là bằng chứng thêm cho hoạt động “đáng ngờ”, điều này lại biện minh cho việc tuần tra mạnh mẽ hơn trong các cộng đồng đó. Kết quả là một chu kỳ phản hồi của sự giám sát gia tăng. Thay vì dự đoán tội phạm một cách khách quan, công cụ này đã khuếch đại sự chú ý trước đó của sở cảnh sát, hiệu quả là tự động hóa một lời tiên tri tự thực hiện. Những hệ thống như vậy có thể củng cố một cách không công bằng các thiên kiến về chủng tộc và kinh tế xã hội dưới vỏ bọc của tính khách quan thuật toán.

Động lực quyền lực ở đây là tinh tế nhưng có thật. Các cộng đồng được máy tính gán nhãn “rủi ro cao” có thể thấy mình bị mắc kẹt trong một chu kỳ khó phá vỡ, vì chính nhãn đó mời gọi sự kiểm soát mạnh mẽ hơn. Trong khi đó, các sĩ quan cảnh sát trên thực địa có thể bắt đầu tin tưởng vào các đầu ra của thuật toán một cách mù quáng – một hiện tượng được gọi là thiên kiến tự động hóa. Đã có nhiều trường hợp ở Hoa Kỳ mà thiên kiến này dẫn đến những sai lầm nghiêm trọng. Ví dụ, phần mềm nhận diện khuôn mặt (một công cụ cảnh sát thuật toán khác) đã nhận diện sai những người vô tội thành nghi phạm tội phạm. Trong ít nhất tám trường hợp, các cá nhân – chủ yếu là nam giới da đen – đã bị bắt giữ sai vì cảnh sát coi một sự trùng khớp do AI tạo ra là bằng chứng không thể chối cãi. Trong một báo cáo, các sĩ quan đã mô tả sự chọn lựa của phần mềm như là một “trùng khớp 100%” với nghi phạm, ngay lập tức chấp nhận nó như là sự thật và tiến hành bắt giữ. Chỉ sau đó, khi những người vô tội đã dành thời gian trong tù, mới rõ ràng rằng thuật toán đã sai. Những kiểm tra cơ bản mà một thám tử con người có thể thực hiện (như xác minh nơi người đó ở vào thời điểm xảy ra tội phạm hoặc so sánh các đặc điểm phân biệt) đã bị bỏ qua vì lời nói của máy tính mang quá nhiều trọng lượng. Điều này minh họa cách mà sự giám sát của con người có thể dễ dàng bị gạt sang một bên khi một thuật toán tham gia vào chuỗi quyết định. Rủi ro là cảnh sát và các quan chức bắt đầu nhường quyền cho máy móc hơn là phán đoán của chính họ, chuyển quyền lực sang logic không thấy của thuật toán. Và khi logic đó bị ẩn giấu – thường thì những thuật toán cảnh sát này là độc quyền, được phát triển bởi các công ty tư nhân không tiết lộ cách thức hoạt động bên trong của chúng – thì gần như không thể cho những người bị ảnh hưởng thách thức hoặc thậm chí hiểu tại sao họ đã bị đánh dấu. Kết quả là sự mất mát về tính minh bạch và trách nhiệm trong một chức năng cốt lõi của quản trị.

Thị Trường Thuật Toán: Giao Dịch Với Tốc Độ Của AI

Tài chính là một lĩnh vực khác mà các chu kỳ phản hồi do AI điều khiển đã âm thầm định hình lại quyền lực. Ngày nay, phần lớn các giao dịch chứng khoán không được thực hiện bởi con người la hét trên sàn giao dịch, mà bởi các thuật toán được đặt tại các trung tâm dữ liệu. Các ước tính cho thấy khoảng 60–70% các giao dịch trên thị trường cổ phiếu hiện nay được xử lý bởi các hệ thống giao dịch tự động. Những thuật toán này hoạt động trên quy mô thời gian mili giây và phản ứng với dữ liệu thị trường nhanh hơn bất kỳ con người nào có thể chớp mắt. Trong khi điều này mang lại hiệu quả và tính thanh khoản, nó cũng giới thiệu những loại biến động và rủi ro hệ thống mới phát sinh từ các hiệu ứng phản hồi giữa các thuật toán. Một ví dụ kịch tính là “Sự Sụp Đổ Chớp Nhoáng” vào ngày 6 tháng 5 năm 2010, khi gần 1 nghìn tỷ đô la giá trị thị trường biến mất trong vài phút, chỉ để phục hồi phần lớn sau nửa giờ. Các cuộc điều tra cho thấy rằng sự sụp đổ không phải do bất kỳ tin tức lớn nào hoặc sự hoảng loạn của con người, mà do các thuật toán kích hoạt lẫn nhau trong một chuỗi phản ứng nhanh. Một chương trình giao dịch tự động với lệnh bán lớn đã tác động đến thị trường, điều này được các thuật toán giao dịch tần suất cao khác hiểu là dấu hiệu để bán theo. Những giao dịch đó đã đẩy giá xuống, điều này lại kích hoạt thêm nhiều thuật toán được lập trình để rút thanh khoản hoặc bán khống thị trường ở những ngưỡng nhất định. Thực tế, một chu kỳ phản hồi đã kích hoạt chu kỳ tiếp theo và sau đó là chu kỳ tiếp theo, trong một sự thất bại liên tiếp của sự phối hợp. Với quá nhiều bot theo đuổi các chiến lược tương tự, thị trường trở thành một phòng vang của các thuật toán khuếch đại các động thái của nhau. Giá cả đã giảm mạnh trong một vòng xoáy tự củng cố cho đến khi các bộ ngắt mạch dừng giao dịch.

Cuộc khủng hoảng Flash Crash là một lời cảnh tỉnh về sức mạnh mà những thuật toán vô hình này nắm giữ đối với sự ổn định tài chính. Hơn nữa, nó đã làm nổi bật một sự thật khó chịu: khi các thị trường bị chi phối bởi các tác nhân tự động, những lỗi nhỏ hoặc đặc điểm kỳ quặc trong một hệ thống có thể được khuếch đại thông qua các vòng phản hồi thành các sự kiện hệ thống. Trong trường hợp này, không cần có ý định xấu – các thuật toán chỉ đơn giản là tuân theo mã của chúng – nhưng tập thể chúng đã suýt làm sụp đổ thị trường chứng khoán. Sự tập trung quyền lực trong các thuật toán cũng chuyển giao quyền lực về tay những người thiết kế và triển khai chúng. Các công ty giao dịch tinh hoa với các thuật toán nhanh nhất, thông minh nhất có thể vượt qua và điều khiển các nhà đầu tư truyền thống, có khả năng thu lợi từ những biến động mà chính máy móc của họ giúp tạo ra. Các nhà quản lý đang vật lộn với cách giám sát thực tế mới này. Các đề xuất bao gồm yêu cầu minh bạch mạnh mẽ hơn (ví dụ, có chứng nhận hoặc kiểm tra căng thẳng cho các kịch bản kỳ lạ) và các bộ ngắt mạch để giảm thiểu các hiệu ứng phản hồi không kiểm soát. Tuy nhiên, việc quản lý trực tiếp là thách thức vì các mô hình giao dịch này phức tạp và độc quyền, và các công ty tài chính bảo vệ chúng như bí mật thương mại. Ở đây, chúng ta lại thấy sự mờ mịt: mã mà di chuyển hàng tỷ đô la trong vài mili giây thường không thể nhìn thấy đối với mọi người ngoại trừ những người tạo ra nó. Xã hội nói chung phải tin tưởng rằng một vài nhà công nghệ đã làm đúng – và như Flash Crash đã chỉ ra, ngay cả một sự sơ suất nhỏ cũng có thể spiraling ra ngoài tầm kiểm soát. Rủi ro tiềm tàng lâu dài là một hệ sinh thái thị trường không ổn định dễ bị sốc đột ngột làm xói mòn niềm tin của công chúng, tất cả được điều phối bởi các hệ thống tự động lặng lẽ hoạt động trong nền.

Các Nền Tảng Xã Hội và Sự Thúc Đẩy Hành Vi

Nếu việc cảnh sát dự đoán và các thuật toán giao dịch minh họa các vòng phản hồi vô tình, các nền tảng truyền thông xã hội cho thấy cách mà các thuật toán có thể được thiết kế một cách có chủ đích để thúc đẩy hành vi con người – và những hậu quả sâu rộng có thể theo sau. Các nền tảng xã hội hiện đại như Facebook, YouTube, TikTok và Twitter dựa vào các công cụ gợi ý và nguồn cấp dữ liệu được điều chỉnh bởi AI để tối đa hóa sự tham gia của người dùng. Mỗi cú nhấp chuột, thích hoặc chia sẻ mà bạn thực hiện trở thành đầu vào cho thuật toán quyết định những gì sẽ hiển thị cho bạn tiếp theo, trong một chu kỳ vô tận được điều chỉnh để giữ bạn cuộn. Điều này tạo ra một vòng phản hồi mạnh mẽ giữa sự chú ý của con người và việc lựa chọn của máy móc. Nội dung kích thích một phản ứng mạnh mẽ (dù là phẫn nộ, vui mừng hay sốc) có xu hướng nhận được nhiều sự tham gia hơn, vì vậy thuật toán học cách phục vụ nhiều hơn nữa. Theo thời gian, người dùng có thể bị bao bọc trong những gì thường được gọi là “phòng vang” – chỉ thấy những bài đăng phù hợp với sở thích hoặc cảm xúc hiện tại của họ, vì đó là những bài đăng đã khiến họ tương tác trước đó. Quá trình này rất tinh tế; người dùng có thể không nhận ra rằng nguồn cấp dữ liệu của họ đang được tối ưu hóa một cách lặng lẽ để kích thích họ. Nhưng ở quy mô lớn, sự thúc đẩy thuật toán này có thể định hình ý kiến công chúng và thậm chí là các chuẩn mực xã hội.

Một trường hợp nổi tiếng đã phơi bày sức mạnh của những hệ thống này là vụ bê bối Cambridge Analytica. Vào năm 2016, một công ty tư vấn chính trị đã thu thập dữ liệu của hàng chục triệu người dùng Facebook và sử dụng nó để nhắm mục tiêu quảng cáo và thông điệp chính trị một cách vi mô. Các thuật toán của chính Facebook, xác định nội dung mà mỗi người dùng thấy, đã trở thành cơ chế phân phối cho sự thuyết phục có mục tiêu này. Bằng cách khai thác khả năng của nền tảng để phân đoạn và ảnh hưởng đến khán giả – chẳng hạn, gửi quảng cáo cảm xúc cụ thể đến những người được cho là thần kinh hoặc dễ chịu dựa trên dữ liệu của họ – chiến dịch đã tìm cách tác động đến hành vi của cử tri. Thực tế, cử tri đã bị thúc đẩy theo cách rất cá nhân hóa, mà không hề hay biết. Khi điều này được phơi bày, nó đã nâng cao nhận thức rộng rãi rằng dòng chảy liên tục của quảng cáo và bài đăng được điều chỉnh trên mạng xã hội không chỉ là về việc bán giày hoặc thu hút nhấp chuột – nó có thể được khai thác để thao túng ý kiến, thói quen mua sắm và phiếu bầu. Khác với tuyên truyền hoặc tiếp thị truyền thống, sự thúc đẩy thuật toán hoạt động một-một ở quy mô lớn, lặng lẽ khai thác xu hướng của từng người dùng.

Ngay cả các động lực nền tảng hàng ngày cũng cho thấy vòng phản hồi đang hoạt động. Hãy xem cách mà thông tin sai lệch hoặc nội dung cực đoan có thể lan truyền nhanh chóng. Nếu một tuyên bố gây sốc kích thích sự tò mò và mọi người bắt đầu tương tác với nó, công cụ gợi ý của nền tảng sẽ nhận thấy sự gia tăng và ngay lập tức hiển thị nội dung đó cho nhiều người dùng hơn. Reddit từng chứng kiến điều này với một sự cố vi phạm quyền riêng tư: những bức ảnh riêng tư bị đánh cắp của một người nổi tiếng đã được đăng tải, và khi hàng loạt người dùng nhấp chuột và bình chọn cho chúng, hệ thống xếp hạng tự động của Reddit đã tiếp tục đẩy những hình ảnh này lên hàng đầu, thu hút thêm nhiều người xem hơn. Trong chu kỳ phản hồi đó, sự tham gia tạo ra sự hiển thị, điều này tạo ra thêm sự tham gia – có lợi cho các chỉ số lưu lượng của nền tảng, nhưng với một cái giá lớn cho quyền riêng tư và phẩm giá của nạn nhân. Thường xuyên hơn, các thuật toán tự động phát và “Tiếp theo” của YouTube đã bị chỉ trích vì hướng người xem đến những video ngày càng cực đoan để giữ sự chú ý của họ – ví dụ, kéo một người đang xem video chính trị nhẹ nhàng vào nội dung cực đoan hơn sau vài giờ gợi ý từ thuật toán. Tất cả những điều này chuyển thành ảnh hưởng. Quyền lực để thiết lập những “hệ thống thưởng” kỹ thuật số này cho nội dung cho phép chủ sở hữu nền tảng ảnh hưởng đến thông tin nào được lan truyền và những tiếng nói nào được khuếch đại hoặc bị gạt ra ngoài. Đây là một hình thức quyền lực mềm được thực hiện bởi các thuật toán: không phải là kiểm duyệt hoặc kiểm soát rõ ràng theo nghĩa truyền thống, mà bằng cách điều chỉnh những gì khán giả thấy, các nền tảng có thể tinh tế định hình nhận thức của người dùng về thực tế. Và vì các thuật toán tối ưu hóa cho sự tham gia trên hết (thường tương quan với sự phẫn nộ hoặc kích thích), chúng có thể kết thúc bằng việc ủng hộ các tài liệu mang tính cảm xúc cao, góp phần vào sự phân cực và sự lan truyền thông tin sai lệch.

Quản lý bằng Thuật toán: Hiệu quả với cái giá của Công bằng?

Các hệ thống dựa trên AI không chỉ giới hạn trong khu vực tư nhân; chúng ngày càng được tích hợp vào quản lý và dịch vụ công. Trên toàn thế giới, các chính phủ và cơ quan đã bắt đầu sử dụng thuật toán để giúp đưa ra quyết định về các vấn đề như đủ điều kiện phúc lợi, phát hiện gian lận thất nghiệp, phân bổ trường học, và thậm chí là khuyến nghị án phạt tư pháp. Lời hứa là các thuật toán có thể xử lý dữ liệu hiệu quả hơn và “khách quan” hơn so với các quan chức hành chính, có khả năng loại bỏ sai sót hoặc thành kiến của con người. Nhưng những ví dụ thực tế ban đầu đã phơi bày một mặt tối hơn: những hệ thống tự động này có thể thừa hưởng và che giấu những thành kiến sâu sắc, và sự không minh bạch của chúng có thể khiến chúng trở thành công cụ kiểm soát nguy hiểm mà không có trách nhiệm. Một trường hợp đáng chú ý đã xuất hiện ở thành phố Rotterdam, Hà Lan, nơi một thuật toán được triển khai để xác định gian lận phúc lợi. Một phân tích điều tra vào năm 2023 đã tiết lộ rằng hệ thống này đang phân biệt dựa trên dân tộc và giới tính – chẳng hạn, các bà mẹ đơn thân thuộc một số nền tảng dân tộc nhất định có khả năng cao hơn nhiều bị đánh dấu là “rủi ro cao” bởi mô hình. Điều này xảy ra ngay cả khi các thuộc tính nhạy cảm như chủng tộc không được đưa vào thuật toán một cách rõ ràng; thay vào đó, các đại diện (như ngôn ngữ mẹ đẻ của ai đó hoặc mã bưu chính) đã phục vụ như những tín hiệu ngầm, phản ánh những thành kiến lịch sử. Bởi vì mô hình hoạt động trong một bộ máy hành chính với ít sự minh bạch, những người bị điều tra không hề biết rằng một phép tính ẩn của máy tính đã chỉ định họ, cũng như họ không thể dễ dàng phản đối điều đó. Chỉ thông qua việc các nhà báo và nhà nghiên cứu có được quyền truy cập vào mã (thông qua các luật về tự do thông tin) mà thành kiến này mới được phơi bày. Chỉ có thể tưởng tượng có bao nhiêu thuật toán tương tự trong chính phủ đang hoạt động không kiểm soát “dưới lớp bóng tối hành chính,” âm thầm khuếch đại sự bất bình đẳng trong việc ai bị điều tra hoặc ai được coi là xứng đáng nhận hỗ trợ.

Hiện tượng này đã được mô tả như một phần của vấn đề rộng hơn về quản lý thuật toán. Các quyết định mà trước đây được đưa ra (không hoàn hảo) bởi con người – thường có các con đường để giải thích, kháng cáo, hoặc tranh luận công khai – giờ đây đôi khi được đưa ra bởi các mô hình không thể hiểu được. Ví dụ, trong hệ thống tư pháp hình sự, nhiều khu vực pháp lý sử dụng các thuật toán đánh giá rủi ro để giúp các thẩm phán quyết định xem một bị cáo có nên được cấp tiền bảo lãnh hay án phạt của họ nên là gì. Một công cụ nổi tiếng ở Mỹ, COMPAS, đã được phát hiện có thành kiến chủng tộc đáng kể: nó có khả năng cao hơn trong việc gán nhãn sai các bị cáo da đen là có rủi ro cao về tái phạm so với các bị cáo da trắng. Thành kiến như vậy trong một thẩm phán con người sẽ là nguyên nhân gây ra một vụ bê bối; trong một thuật toán, nó vẫn chủ yếu ẩn giấu cho đến khi các nhà báo điều tra và học giả nghiên cứu các kết quả. Việc sử dụng những công cụ này trao cho một loại quyền lực nhất định cho các nhà cung cấp phần mềm và các nhà khoa học dữ liệu tạo ra chúng – thường là các công ty tư nhân – trong khi các thẩm phán, quan chức và công chúng có thể không hiểu cách mà các quyết định đang được đưa ra. Điều này thách thức tính hợp pháp của quản lý: nếu mọi người cảm thấy các quyết định đến từ một “hộp đen” không thể bị chất vấn, lòng tin vào các tổ chức sẽ bị xói mòn. Hơn nữa, các hệ thống thuật toán có thể mở rộng các quyết định hành chính theo cách mà, nếu có sai sót, sẽ gây hại cho hàng ngàn người trước khi vấn đề được phát hiện. Hãy tưởng tượng một thuật toán phúc lợi thất nghiệp mà sai lầm đánh dấu hàng ngàn ứng viên trung thực là kẻ gian lận do một quy tắc sai; trừ khi có ai đó kiểm toán hoặc can thiệp, sinh kế có thể bị hủy hoại hàng loạt bởi một vòng lặp mã không suy nghĩ. Sự kết hợp giữa quy mô, sự không minh bạch và quyền lực khiến quản lý thuật toán trở thành một con dao hai lưỡi – hiệu quả, có thể, nhưng có khả năng không công bằng và khó thách thức.

Các Hệ thống Không Minh bạch, Thành kiến Tự động hóa, và Tự củng cố

Trên tất cả các lĩnh vực này – cảnh sát, tài chính, mạng xã hội, dịch vụ công – một số chủ đề lặp đi lặp lại xuất hiện. Một trong số đó là sự không minh bạch. Nhiều hệ thống dựa trên AI thực sự là “hộp đen.” Dù đó là một mô hình học sâu mà các trọng số thần kinh phức tạp của nó ngay cả những người sáng tạo cũng không thể hoàn toàn giải thích, hoặc đơn giản là một thuật toán độc quyền mà chi tiết của nó được giữ bí mật, logic bên trong của những hệ thống này thường bị ẩn giấu. Sự không minh bạch này có nghĩa là những người bị ảnh hưởng bởi các quyết định thuật toán thường không có cái nhìn nào về lý do tại sao một quyết định được đưa ra. Nếu đơn xin vay của bạn bị từ chối hoặc bài đăng của bạn bị gỡ xuống hoặc bạn liên tục bị cảnh sát kiểm tra quấy rối, và một thuật toán đứng sau điều đó, bạn khó có thể nhận được một lời giải thích thỏa đáng. Sự thiếu minh bạch nghiêng quyền lực về phía những người điều hành các thuật toán và xa rời những người bị áp dụng. Nó cũng khiến cho xã hội khó có thể có một cuộc tranh luận về công bằng – sau cùng, làm thế nào chúng ta có thể xem xét hoặc cải thiện một hệ thống mà chúng ta không được phép nhìn thấy? Ví dụ, các nhà cung cấp cảnh sát dự đoán đôi khi đã kháng cự việc công bố mã hoặc dữ liệu của họ, viện dẫn quyền sở hữu trí tuệ. Nhưng sự bí mật đó có nghĩa là các quyết định công cộng quan trọng (như ai được coi là mối đe dọa) được đưa ra ngoài sự giám sát của công chúng. Trong tài chính và các nền tảng trực tuyến, bí mật thương mại và lợi thế độc quyền cũng giữ cho các thuật toán được giấu kín. Kết quả là một khoảng cách ngày càng lớn về thông tin và quyền lực: một nhóm nhỏ các kỹ sư và tập đoàn biết cách mà “các quy tắc” hoạt động, và mọi người khác phải chấp nhận các kết quả.

Vấn đề chính khác là xu hướng của con người đặt quá nhiều niềm tin vào tự động hóa – chúng ta đã đề cập đến điều này như là thiên lệch tự động hóa. Cần nhấn mạnh rằng khi mọi người giả định “máy tính luôn đúng,” các lỗi có thể lan truyền và trở nên tồi tệ hơn. Thiên lệch tự động hóa không chỉ ảnh hưởng đến cảnh sát; nó ảnh hưởng đến bất kỳ ai sử dụng AI để hỗ trợ quyết định. Một bác sĩ có thể dựa vào một công cụ chẩn đoán AI và bỏ lỡ một dấu hiệu lâm sàng rõ ràng mà máy đã sai, hoặc một nhà đầu tư có thể giữ nguyên đầu ra của một mô hình ngay cả khi điều kiện thị trường đã thay đổi theo những cách mà mô hình không được đào tạo để xử lý. Nguy hiểm là phán đoán của con người, điều mà lẽ ra phải là biện pháp an toàn, lại trở nên mờ nhạt. Các vụ tai nạn máy bay 737 Max vào năm 2018–2019, chẳng hạn, một phần được cho là do các phi công không hiểu rõ hoặc phản ứng đúng cách với một hệ thống tự động (MCAS) đang làm sai. Mặc dù không phải là AI theo nghĩa đen, nhưng đây là một minh họa cho cách mà sự tin tưởng quá mức vào tự động hóa có thể có những hậu quả chết người. Trong các bối cảnh xã hội, thiên lệch tự động hóa có thể dẫn đến việc thể chế hóa những sai lầm – như bắt giữ sai hoặc từ chối quyền lợi không công bằng – trên quy mô lớn. Khi một thuật toán thiên lệch được sử dụng, mọi người có thể bảo vệ các quyết định của nó chỉ vì “nó dựa trên dữ liệu” hoặc có vẻ khách quan, trong khi thực tế nó có thể sai lệch một cách hệ thống.

Có lẽ khía cạnh tinh vi nhất của tất cả là cách mà các hệ thống thuật toán này có thể tự củng cố. Bởi vì nhiều trong số chúng học từ phản hồi, có nguy cơ xảy ra một vòng luẩn quẩn. Hãy tưởng tượng một thuật toán xác định ai là nhân viên “có rủi ro cao” tại một công ty và do đó được giám sát thêm. Nếu thuật toán đó kiểm tra quá mức một số công nhân nhất định, những công nhân đó có thể kết thúc với nhiều vi phạm hơn trong hồ sơ (vì họ đang bị theo dõi chặt chẽ hơn), điều này xác nhận thiên lệch ban đầu của thuật toán và dẫn đến việc nó nhắm đến nhiều người giống như họ hơn. Hoặc hãy xem xét mạng xã hội một lần nữa: nếu một thuật toán hiển thị không cân xứng một số loại nội dung nhất định (chẳng hạn, tin tức giật gân) vì điều đó đã thúc đẩy sự tương tác từ sớm, nó sẽ học từ phản hồi của người dùng đối với nội dung đó và càng củng cố, có khả năng làm cho những tiếng nói ôn hòa hơn bị đẩy ra ngoài. Theo thời gian, những vòng lặp này có thể thay đổi đáng kể cảnh quan. Trong cuốn sách Vũ khí của sự hủy diệt toán học, nhà khoa học dữ liệu Cathy O’Neil đã cảnh báo rằng các hệ thống như vậy có xu hướng “trừng phạt người nghèo và những người bị áp bức trong xã hội của chúng ta, trong khi làm cho người giàu trở nên giàu hơn,” chính xác vì chúng tiếp nhận dữ liệu lịch sử phản ánh những bất bình đẳng hiện có và sau đó củng cố những mẫu hình đó trong tương lai. Ví dụ, nếu các khu vực nghèo có ít quyền truy cập vào tín dụng và do đó ít khoản vay hơn, một thuật toán ngân hàng có thể kết luận rằng những khu vực đó là rủi ro tín dụng xấu và phê duyệt ít khoản vay hơn ở đó, càng làm tắc nghẽn cơ hội kinh tế. Thiên lệch trở nên thể chế hóa và được khuếch đại với mỗi lần sử dụng thuật toán. Về lâu dài, những vòng lặp tự duy trì này có thể làm cứng lại các phân tầng xã hội và tạo ra một loại quán tính tự động mà khó có thể đảo ngược. Theo một cách rất thực tế, chúng có thể khóa chúng ta vào quá khứ.

Điều hướng Tương lai: Hướng tới Tính minh bạch và Giám sát

Nhận thức được những mẫu hình này là bước đầu tiên để lấy lại sự cân bằng. Các hệ thống và vòng phản hồi được mô tả ở đây là phức tạp, nhưng không phải là bất khả xâm phạm. Một nhóm ngày càng đông đảo các chuyên gia, nhà hoạt động và thậm chí cả những người trong ngành đang kêu gọi trách nhiệm giải trình thuật toán. Điều này có nghĩa là thực hiện các biện pháp như kiểm toán thuật toán và đánh giá tác động – về cơ bản là các bài kiểm tra căng thẳng và đánh giá các thuật toán về thiên lệch, công bằng và tính hợp lệ, tương tự như một cuộc kiểm toán tài chính – đặc biệt là đối với các hệ thống được sử dụng trong các vai trò công cộng có rủi ro cao. Một số khu vực pháp lý đã bắt đầu yêu cầu rằng nếu một thuật toán được sử dụng trong, chẳng hạn, tuyển dụng hoặc cảnh sát, nó nên được kiểm tra về sự phân biệt và các kết quả của nó được giám sát. Cũng có những nỗ lực để minh bạch theo thiết kế: ví dụ, yêu cầu các công ty tiết lộ các yếu tố mà thuật toán của họ xem xét, hoặc mã nguồn mở một số thuật toán của chính phủ để các nhà nghiên cứu độc lập có thể xem xét chúng. Mặc dù các lợi ích kinh doanh độc quyền thường kháng cự lại điều này, nhưng lập luận phản biện là khi các thuật toán nắm quyền lực đối với cuộc sống của mọi người, quyền biết của công chúng đôi khi nên vượt lên trên bí mật thương mại.

Về phía con người, đào tạo và nhận thức có thể giảm thiểu thiên lệch tự động hóa. Các sở cảnh sát và tổ chức áp dụng các công cụ AI cần phải xây dựng một văn hóa hoài nghi lành mạnh: coi thuật toán như một đầu vào, không phải là lời cuối cùng. Trong thực tế, điều này có thể có nghĩa là luôn có một con người trong quy trình để xác minh và đặt bối cảnh cho các quyết định thuật toán quan trọng. Ví dụ, nếu một hệ thống đánh dấu ai đó là có rủi ro cao, một nhà phân tích con người nên xem xét các yếu tố cơ bản và kiểm tra các giải thích thay thế trước khi bất kỳ hành động nào được thực hiện. Trong ngành hàng không, các phi công hiện được đào tạo nghiêm ngặt hơn về cách xử lý và vượt qua các hệ thống tự động; tương tự, các chuyên gia trong lĩnh vực luật, tài chính, y tế và các lĩnh vực khác sử dụng AI cần được đào tạo về giới hạn của những công cụ này và cách phát hiện khi chúng đang đi sai. Cũng rất quan trọng để bảo tồn các con đường kháng cáo và bồi thường: nếu một hệ thống tự động đưa ra quyết định về bạn (từ chối khoản vay của bạn, đánh dấu bạn là rủi ro an ninh, v.v.), nên có một quy trình rõ ràng để đặt câu hỏi và sửa chữa quyết định đó. Điều này thường yêu cầu can thiệp chính sách, vì các công ty cá nhân có thể không tự nguyện cung cấp các cơ chế như vậy.

Cuối cùng, xã hội cần một cuộc trò chuyện rộng rãi hơn về những cách sử dụng chấp nhận được của các hệ thống tự học và nơi để vạch ra ranh giới. Không phải mọi quy trình đều nên được giao cho một thuật toán chỉ vì nó có thể. Như chúng ta đã thấy, khi các vấn đề xã hội phức tạp – như tội phạm, hoặc khả năng tín dụng, hoặc diễn ngôn chính trị – được giao cho máy móc, kết quả có thể hiệu quả nhưng cũng có thể phi nhân tính và nguy hiểm củng cố hiện trạng. Công nghệ đang phát triển nhanh chóng, nhưng các khuôn khổ quản trị và đạo đức của chúng ta có thể theo kịp nếu chúng ta yêu cầu điều đó. Bằng cách chiếu sáng những thay đổi âm thầm này trong quyền lực, chúng ta có thể phát triển các chuẩn mực và quy định mới khai thác lợi ích của các hệ thống do AI điều khiển (tốc độ, quy mô, tính nhất quán) trong khi hạn chế các rủi ro của chúng. Mục tiêu là đảm bảo rằng các vòng phản hồi này phục vụ xã hội một cách rộng rãi, thay vì chỉ củng cố quyền lực của bất kỳ ai khởi động chúng. Cuối cùng, các thuật toán nên là công cụ để tăng cường quyết định của con người, chứ không phải thay thế nó hoặc tạo ra các lãnh địa tự động. Giữ cho con người nắm quyền – và các giá trị như công bằng và minh bạch ở trung tâm – sẽ là chìa khóa để điều hướng một tương lai mà AI được dệt sâu vào các mô hình của cuộc sống chúng ta.

• Hội đồng Nghiên cứu Khoa học Xã hội – Đánh giá Tác động của Các Vòng Phản hồi Giữa Con Người và Thuật Toán (2022)
• Trường Kinh tế London – AI và Thị Trường Chứng Khoán: Liệu Giao Dịch Thuật Toán Có Tạo Ra Rủi Ro Mới? (2025)
• Harvard Business Review – Các Động Lực Thuật Toán Không Cần Phải Làm Thiệt Hại Đạo Đức (2021)
• Blog Luật Jones Walker – Định Kiến Giám Sát Cảnh Sát AI: “Báo Cáo Thiểu Số” Ảnh Hưởng Đến Quyền Hiến Pháp (2025)
• WIRED – Bên Trong Một Cỗ Máy Dữ Liệu Chính Phủ Gặp Sự Cố (2023)
• Xu Ru Zhang – Tác Động Dài Hạn của Học Máy Công Bằng (2023)