OpenAI lo ngại siêu trí tuệ và nguy cơ tiềm ẩn đối với nhân Loại

Tiềm năng của Trí tuệ Nhân tạo (AI) đã và đang gây ra nhiều lo ngại đối với nhiều người, đặc biệt là khi chúng ta đang tiến gần đến việc tạo ra những máy móc thông minh hơn con người. Ngay cả OpenAI - công ty phát triển ChatGPT - cũng nhận thức được những nguy cơ tiềm ẩn của siêu trí tuệ, bao gồm cả nguy cơ tuyệt chủng của loài người, và đã thành lập một nhóm làm việc để giảm thiểu những rủi ro này.

OpenAI lo ngại siêu trí tuệ và nguy cơ tiềm ẩn đối với nhân Loại

Theo OpenAI, việc kiểm soát các hệ thống AI thông minh hơn con người đòi hỏi các đột phá khoa học và kỹ thuật để điều khiển chúng. Với mục tiêu giải quyết vấn đề này trong vòng bốn năm tới, OpenAI đã thành lập một nhóm mới và cung cấp 20% công suất tính toán để thực hiện nỗ lực này.

Công ty tin rằng siêu trí tuệ sẽ là công nghệ có tác động lớn nhất từng được phát minh và có thể giúp giải quyết nhiều vấn đề của thế giới. Tuy nhiên, sức mạnh vô cùng lớn của nó cũng có thể gây nguy hiểm, dẫn đến sự mất quyền kiểm soát của nhân loại hoặc thậm chí tuyệt chủng loài người. OpenAI cho biết, mặc dù một AI siêu trí tuệ như vậy có vẻ còn rất xa, nhưng công ty tin rằng nó có thể xuất hiện vào đầu thập kỷ này.

OpenAI đã thành lập nhóm Siêu Cân bằng với mục tiêu xây dựng một "nhà nghiên cứu tự động cấp ngang với con người về việc cân bằng AI". Điều này đòi hỏi việc nghiên cứu cân bằng nhằm đảm bảo rằng AI phù hợp với giá trị của con người và tuân thủ ý định của con người. OpenAI cũng đặt ra mục tiêu huấn luyện AI bằng phản hồi từ con người, xây dựng một AI có khả năng đánh giá các hệ thống AI khác và thực hiện nghiên cứu cân bằng nhanh hơn và tốt hơn con người.

Tuy nhiên, OpenAI thừa nhận giải quyết những thách thức kỹ thuật của siêu trí tuệ trong bốn năm là một mục tiêu thách thức và không có đảm bảo thành công. Tuy vậy, công ty lạc quan và đang tuyển dụng các nhà nghiên cứu và kỹ sư để tham gia nhóm Siêu Cân bằng.

Các lo ngại về tương lai của AI đã được nhiều chuyên gia đưa ra, trong đó có Geoffrey Hinton - một trong những người tiên phong trong lĩnh vực AI - đã rời khỏi Google và cảnh báo về sự nguy hiểm ngày càng gia tăng khi các công ty sử dụng các hệ thống AI mạnh mẽ hơn. Sam Altman, CEO của OpenAI, cũng là một trong số những người đã cảnh báo về nguy cơ tuyệt chủng của loài người do AI gây ra, và so sánh nó với nguy cơ từ chiến tranh hạt nhân và đại dịch. Mặc dù không phải ai cũng chia sẻ những lo ngại này, việc thảo luận và nghiên cứu về việc kiểm soát và cân bằng AI siêu trí tuệ vẫn là một vấn đề quan trọng trong ngành công nghệ hiện nay.

Theo Techspot