Không chỉ con người, AI cũng có thể 'thối não' khi xem nhiều tin rác trên mạng xã hội
"Thối não" là hiện tượng xảy ra khi con người tiếp xúc với quá nhiều nội dung rác trên mạng xã hội, làm giảm khả năng tập trung, sai lệch trí nhớ hoặc thay đổi lòng tự trọng. Giờ đây AI cũng có thể gặp tình trạng tương tự.
Nghiên cứu mới chỉ ra rằng các mô hình AI cũng bị “thối não” nếu liên tục tiếp xúc với nội dung rác trên mạng xã hội - Ảnh: REUTERS
Theo tạp chí Fortune ngày 22-10, một Ngăn AI 'xài chùa' nội dungĐỌC NGAY
"Hiệu ứng 'thối não' đã ăn sâu vào tiềm thức, và phương pháp tinh chỉnh dựa trên hướng dẫn vẫn không thể khắc phục được vấn đề", các nhà nghiên cứu viết.
Do AI được huấn luyện dựa trên hàng nghìn tỉ điểm dữ liệu từ Internet, các nhà khoa học cảnh báo rằng việc tiếp xúc liên tục với nội dung kém chất lượng là điều không thể tránh khỏi.
Việc huấn luyện AI là yếu tố quan trọng tạo nên hiệu suất của chúng. Trước đó, một nghiên cứu đăng trên tạp chí Nature tháng 7-2024 chỉ ra rằng các mô hình AI có thể sụp đổ nếu được huấn luyện lặp đi lặp lại bằng nội dung do chính AI tạo ra.
Chuyên gia khuyến nghị các công ty AI cần chú trọng chất lượng dữ liệu hơn số lượng, đồng thời tiến hành "kiểm tra sức khỏe nhận thức" định kỳ cho các mô hình của mình để ngăn chặn nguy cơ một cuộc khủng hoảng về an toàn trong tương lai.
Brain Rot: Trào lưu giải trí hay nguy cơ ‘thối não’ tư duy?
Chỉ cần gõ từ khóa 'Brain Rot' trên bất kỳ mạng xã hội nào, người dùng lập tức bị bủa vây bởi một loạt video có hình ảnh sặc sỡ, nhân vật kỳ quái cùng những âm thanh lặp đi lặp lại, vô nghĩa nhưng gây nghiện.
Ngăn AI 'xài chùa' nội dungĐỌC NGAY
Brain Rot: Trào lưu giải trí hay nguy cơ ‘thối não’ tư duy?