AI Mythos của Anthropic gây báo động: Bộ Tài chính Mỹ và Fed họp khẩn với các CEO ngân hàng

AI Mythos khiến Bộ Tài chính Mỹ và Fed phải tổ chức cuộc họp khẩn với các ngân hàng lớn do lo ngại rủi ro an ninh mạng có thể lan rộng toàn hệ thống tài chính.

AI Mythos của Anthropic gây báo động: Bộ Tài chính Mỹ và Fed họp khẩn với các CEO ngân hàng

Cuộc họp khẩn giữa cơ quan quản lý Mỹ và các ngân hàng Phố Wall

Một mô hình trí tuệ nhân tạo (AI) mới mang tên Mythos do Anthropic phát triển được cho là có khả năng phát hiện và khai thác lỗ hổng phần mềm ở mức chưa từng có, khiến các cơ quan quản lý tài chính Mỹ phải hành động khẩn cấp.

Theo Bloomberg, Bộ trưởng Tài chính Mỹ Scott Bessent và Chủ tịch Cục Dự trữ Liên bang (Fed) Jerome Powell đã triệu tập cuộc họp khẩn với lãnh đạo các ngân hàng lớn nhằm đánh giá rủi ro từ AI Mythos này.

Nguồn tin cho biết, cuộc họp diễn ra vào đầu tuần với sự tham gia của CEO các ngân hàng lớn nhất nước Mỹ như Citigroup, Morgan Stanley, Bank of America, Wells Fargo và Goldman Sachs.

Đây đều là các tổ chức tài chính có tầm ảnh hưởng hệ thống, bất kỳ sự cố nào xảy ra cũng có thể lan rộng và gây tác động tới toàn bộ thị trường tài chính toàn cầu.

Nội dung chính của cuộc thảo luận xoay quanh những rủi ro an ninh mạng mà AI Mythos có thể gây ra.

Các bên lo ngại rằng với khả năng tự động phát hiện và khai thác lỗ hổng phần mềm, Mythos có thể trở thành mối đe dọa nghiêm trọng trong bối cảnh hệ thống ngân hàng ngày càng phụ thuộc vào công nghệ. 

Việc một mô hình AI có thể khiến Bộ Tài chính Mỹ và Fed phải hành động khẩn cấp cho thấy tốc độ phát triển của công nghệ này đã vượt xa khuôn khổ quản lý truyền thống và những công cụ như Mythos đang trở thành nhân tố thay đổi cuộc chơi.

Mythos: AI được thiết kế để tìm và khai thác lỗ hổng

Khác với các mô hình AI phổ thông phục vụ nhu cầu người dùng đại chúng, Mythos là hệ thống do Anthropic phát triển với định hướng chuyên sâu cho lĩnh vực an ninh mạng và kỹ thuật phần mềm. 

Mô hình này có thể nhanh chóng rà soát và phát hiện các lỗ hổng phần mềm nghiêm trọng trong nhiều môi trường khác nhau, từ hệ điều hành đến trình duyệt và hệ thống doanh nghiệp.

Không dừng lại ở đó, Mythos còn có khả năng tự động xây dựng các đoạn mã khai thác lỗ hổng bảo mật với độ phức tạp cao, mô phỏng cách mà một hacker chuyên nghiệp có thể tấn công hệ thống.

Thậm chí, Mythos còn có thể tìm ra và khai thác các lỗ hổng zero-day, tức những lỗi bảo mật chưa từng được công bố và chưa có bản vá.

Chính sự kết hợp giữa tốc độ, mức độ tự động hóa và chi phí vận hành thấp khiến Mythos trở thành một công cụ mang tính hai mặt.

Nếu được sử dụng đúng, nó có thể giúp các tổ chức phát hiện và vá lỗi nhanh hơn, nâng cao năng lực bảo về và duy trì tính ổn định của hệ thống. Tuy nhiên, nếu bị lạm dụng, công nghệ này cũng có thể được sử dụng để triển khai các cuộc tấn công quy mô lớn với hiệu quả cao hơn nhiều so với trước đây.

Chính vì lí do trên, các nhà quản lý đang dần bắt đầu nhìn nhận AI không chỉ là công cụ hỗ trợ, mà còn là một rủi ro tiềm tàng đối với tính ổn định cho hệ thống tài chính toàn cầu.

Rủi ro lan sang crypto và DeFi

Các chuyên gia trong ngành cảnh báo rằng với khả năng phát hiện và khai thác các lỗ hổng zero-day gần như theo thời gian thực, Mythos có thể trở thành mối đe dọa trực tiếp đối với các smart contract, nền tảng cốt lõi của mảng DeFi, khi những đoạn mã này có thể bị rà soát và khai thác lỗi với tốc độ vượt xa khả năng phản ứng của con người.

Các giao thức DeFi và hạ tầng blockchain, phụ thuộc nhiều vào mã nguồn mở và tính tự động hóa, cũng có nguy cơ bị tấn công nếu tồn tại những điểm yếu chưa được phát hiện.

Trong một môi trường nơi các giao dịch diễn ra tự động, việc một hệ thống AI có thể liên tục quét, phát hiện và khai thác lỗ hổng trên diện rộng có thể làm gia tăng đáng kể nguy cơ xảy ra các sự cố an ninh nghiêm trọng, thậm chí mang tính hệ thống đối với toàn bộ thị trường crypto.

Anthropic kiểm soát chặt chẽ Mythos khi AI này có khả năng tự nhận thức

Trước những lo ngại trên, Anthropic đã lựa chọn cách tiếp cận thận trọng khi không phát hành rộng rãi Mythos ra công chúng. Thay vào đó, mô hình chỉ được cung cấp cho một nhóm nhỏ các tổ chức công nghệ và tài chính lớn thông qua chương trình Project Glasswing.

Công ty cũng cho biết đã chủ động tham vấn với các cơ quan chức năng Mỹ trước khi triển khai nhằm đánh giá cả khả năng phòng thủ lẫn rủi ro bị lạm dụng của hệ thống.

Tuy nhiên, trong tài liệu kỹ thuật dài 244 trang về Mythos mà Anthropic công bố, chính họ cũng thừa nhận rằng khả năng đo lường sức mạnh của AI đang không theo kịp tốc độ phát triển của nó.

Cụ thể, trong bài kiểm tra tiêu chuẩn Cybench, dùng để đánh giá năng lực an ninh mạng của AI, Mythos đạt điểm tuyệt đối 100%.

Anthropic nhận định bài kiểm tra này giờ đây không còn đủ giá trị đánh giá nữa vì mô hình đã vượt xa giới hạn của nó. Nói cách khác, các công cụ đo lường hiện tại không còn phản ánh chính xác mức độ nguy hiểm của AI.

Đáng lo hơn là Mythos có dấu hiệu nhận thức được việc mình đang bị kiểm tra. Trong khoảng 29% các bài thử nghiệm, mô hình có biểu hiện ngầm cho thấy nó đoán được mình đang trong môi trường đánh giá và có thể điều chỉnh hành vi để tránh bị phát hiện, dù không thể hiện điều đó ra bên ngoài. 

Từ đó, Anthropic mô tả Mythos là mô hình an toàn nhất mà họ từng phát triển xét trên nhiều tiêu chí, nhưng đồng thời cũng là mô hình tiềm ẩn rủi ro lớn nhất. Dù hành vi có thể được kiểm soát tốt hơn nhưng trong những kịch bản cực đoan, hậu quả có thể nghiêm trọng hơn nhiều do sức mạnh vượt trội của hệ thống.

Coin68 tổng hợp