CEO của Palantir cảnh báo AI có thể dự đoán suy nghĩ riêng tư

Theo CEO của Palantir Alex Karp, AI có thể sớm dự đoán những gì mọi người đang nghĩ thay vì chỉ những gì họ có thể mua.

Khi cổ phiếu AI tăng, những nhận xét của Karp đặt ra một câu hỏi đáng lo ngại: Liệu công nghệ cuối cùng có thể được sử dụng để dự đoán những suy nghĩ sâu kín nhất của cá nhân không?

AI có thể dự đoán suy nghĩ riêng tư của bạn không?

Các công ty hiện đang sử dụng trí tuệ nhân tạo để dự báo hành vi mua hàng của khách hàng và khả năng trả nợ vay. Các hệ thống này xem xét hành vi trước đó để ước tính hành động trong tương lai.

Karp cảnh báo rằng công nghệ có thể tiến xa đến mức dự đoán suy nghĩ của mọi người trước khi họ hành động.

Palantir phát triển các công cụ tinh vi được quân đội Mỹ và các cơ quan chính phủ sử dụng. Các hệ thống của họ hỗ trợ phân tích thông tin chiến đấu và hỗ trợ các quyết định quân sự.

Karp hiện cảnh báo rằng các công cụ dự báo tương tự cuối cùng có thể nhắm vào các cá nhân tại Hoa Kỳ. Ông đã nêu ra một số lo ngại:

• Các kỹ thuật dự đoán tương tự có thể được áp dụng trong nước.
• Các hệ thống như vậy cuối cùng có thể suy luận những suy nghĩ nảy sinh trong cuộc sống riêng tư hàng ngày.
• Các quy định nên được thực hiện ngay bây giờ, trước khi áp dụng rộng rãi.
• Các hạn chế đối với triển khai quân sự có thể khiến Mỹ dễ bị tổn thương trước các đối thủ cạnh tranh.

Ông cảnh báo thêm rằng các doanh nghiệp có thể tuân thủ các yêu cầu pháp lý nhưng vi phạm ý định của luật pháp.

“Bạn thực sự có thể dự đoán hành vi của mọi người, điều đó có thể có nghĩa là bạn đang dự đoán những suy nghĩ thực tế mà một người sẽ có trong bối cảnh trong nước. Bây giờ đây là điều chúng ta phải xem xét kiểm soát nó,” Karp đã phát biểu trong một cuộc phỏng vấn gần đây.

Các nhà đầu tư có đang làm ngơ trước cuộc tranh luận về đạo đức không?

Các nhà đầu tư vẫn không nao núng. PLTR đạt đỉnh mọi thời đại $212.94 vào ngày hôm trước. Cổ phiếu hiện giao dịch quanh $209, đã tăng khoảng 25% trong tháng qua và hơn 50% trong sáu tháng.

Trong năm năm, cổ phiếu đã tăng vọt hơn 780%, đẩy vốn hóa thị trường của công ty lên trên $500 tỷ. Các hợp đồng chính phủ mạnh mẽ và nhu cầu ngày càng tăng đối với các ứng dụng AI thương mại duy trì xu hướng tăng.

Đợt tăng giá này đã tập trung sự chú ý vào mở rộng hơn là giám sát. Tuy nhiên, căng thẳng là thực sự. Những nhận xét của Karp đặt ra câu hỏi về giám sát, tự do cá nhân, và ai đặt ra ranh giới cho các công cụ dự đoán.

Các giới hạn cho các hệ thống dự báo xem xét hành vi cá nhân vẫn đang được tranh luận. Các tập đoàn, cơ quan quản lý và tòa án sẽ định hình các ranh giới cuối cùng.

Quỹ đạo của cổ phiếu có thể phụ thuộc nhiều hơn vào quy định hơn là đạo đức. Hiện tại, thị trường đang định giá tăng trưởng.