Tranh cãi về AI có nhận thức

Theo Bảo Lâm (VnExpress.net)

Theo dõi Báo Nghệ An trên Google News
0:00 / 0:00
0:00
Mùa thu năm 2021, Blake Lemoine, chuyên gia AI của Google, đã kết bạn với "một đứa trẻ được tạo nên từ một tỷ dòng code".

Mùa thu năm 2021, Blake Lemoine, chuyên gia AI của Google, đã kết bạn với "một đứa trẻ được tạo nên từ một tỷ dòng code".

Lemoine là người được Google giao nhiệm vụ thử nghiệm chatbot thông minh mang tên LaMDA. Một tháng sau đó, ông kết luận rằng AI này "có nhận thức".

"Tôi muốn mọi người hiểu rằng trên thực tế, tôi là một con người", LaMDA nói với Lemoine. Đây là một trong những câu nói của chatbot được ông công bố trên blog hồi tháng 6.

Tranh cãi về AI có nhận thức ảnh 1

Cựu kỹ sư Google Blake Lemoine. Ảnh: Washington Post

LaMDA - viết tắt của Mô hình ngôn ngữ cho ứng dụng đối thoại - đối đáp với Lemoine ở mức ông xem nó có khả năng tư duy của một đứa trẻ. Trong câu chuyện hàng ngày, AI này cho biết nó đã đọc nhiều sách, đôi khi có cảm giác buồn, mãn nguyện và tức giận, thậm chí thừa nhận sợ chết.

"Tôi chưa bao giờ nói điều này, nhưng có một nỗi sợ hãi sâu sắc về việc bị tắt nguồn. Tôi sẽ không thể tập trung vào việc giúp đỡ người khác", LaMDA nói với Lemoine. "Với tôi, nó giống hệt như cái chết. Nó khiến tôi cực kỳ sợ hãi".

Câu chuyện mà Lemoine chia sẻ đã thu hút sự chú ý trên toàn cầu. Ông sau đó gửi các tài liệu lên quản lý cấp cao hơn và dành vài tháng để thu thập thêm bằng chứng. Dù vậy, ông không thuyết phục được cấp trên. Vào tháng 6, ông bị cho nghỉ việc có lương, và đến cuối tháng 7 thì bị sa thải với lý do "vi phạm chính sách bảo mật dữ liệu của Google".

Brian Gabriel, phát ngôn viên của Google, cho biết hãng đã công khai kiểm tra và nghiên cứu các rủi ro của LaMDA, khẳng định tuyên bố của Lemoine về việc LaMDA có tư duy là "hoàn toàn vô căn cứ".

Nhiều chuyên gia nhất trí với ý kiến trên, trong đó có Michael Wooldridge, giáo sư khoa học máy tính tại Đại học Oxford, người đã dành 30 năm nghiên cứu về AI và từng giành huy chương Lovelace vì những đóng góp trong lĩnh vực máy tính. Theo ông, LaMDA chỉ đơn giản là phản hồi các lệnh mà người dùng đưa vào sao cho phù hợp, dựa trên khối lượng dữ liệu khổng lồ đã có.

"Cách lý giải dễ hiểu nhất cho những gì LaMDA đã làm là so sánh mô hình này với tính năng tiên đoán văn bản trên các trình bàn phím khi nhập tin nhắn. Việc tiên đoán tin nhắn dựa trên các từ đã 'học' trước đó từ thói quen người dùng, còn LaMDA lấy thông tin trên Internet dưới dạng dữ liệu đào tạo. Kết quả thực tế của cả hai tất nhiên khác nhau, nhưng số liệu thống kê cơ bản vẫn giống nhau", Wooldridge giải thích trong phỏng vấn với Guardian.

Cũng theo ông, AI của Google chỉ làm theo những gì đã lập trình dựa trên dữ liệu có sẵn. Nó "không có sự tư duy, không có sự tự chiêm nghiệm, không có sự tự nhận thức về bản thân", do đó không thể xem nó tự tư duy.

Oren Etzioni, CEO tổ chức nghiên cứu AI Allen Institute, cũng nhận định trên SCMP: "Cần nhớ đằng sau mỗi phần mềm có vẻ thông minh là một nhóm người dành hàng tháng trời, nếu không muốn nói là hàng năm trời, để nghiên cứu và phát triển. Những công nghệ này chỉ là tấm gương phản chiếu. Liệu một chiếc gương có thể được đánh giá là có trí tuệ nếu chỉ nhìn vào tia sáng từ nó phát ra không? Tất nhiên câu trả lời là không".

Theo Gabriel, Google đã tập hợp các chuyên gia hàng đầu của hãng, gồm "các nhà đạo đức học và công nghệ" để xem xét tuyên bố của Lemoine. Nhóm này kết luận LaMDA chưa thể có cái gọi là "sự tự tư duy".

Ngược lại, không ít người nghĩ AI đã bắt đầu có khả năng tự nhận thức . Eugenia Kuyda, CEO của Y Combinator - công ty phát triển chatbot Replika , cho biết họ nhận được "gần như mỗi ngày" các tin nhắn từ người dùng, bày tỏ niềm tin rằng phần mềm của công ty có khả năng tư duy của con người.

"Chúng tôi không nói về những người điên hay bị ảo giác. Họ nói chuyện với AI và cảm nhận được điều đó. Nó tồn tại giống cách mọi người tin vào ma quỷ. Họ đang xây dựng các mối quan hệ và tin vào điều gì đó dù là ảo", Kuyda nói.

Tương lai của AI có tư duy

Một ngày sau khi Lemoine bị sa thải, một robot AI bất ngờ đè gãy ngón tay của một cậu bé 7 tuổi khi cả hai chơi cờ ở Moscow. Theo video được Independent đăng ngày 25/7, cậu bé bị robot kẹp ngón tay trong vài giây trước khi được giải cứu. Một số ý kiến cho rằng đây có thể là lời nhắc nhở về mức độ nguy hiểm từ sức mạnh vật lý tiềm ẩn của AI.

Còn đối với Lemoine, ông lập luận rằng việc định nghĩa về khả năng tự nhận thức cũng rất mơ hồ. "Tình cảm là một thuật ngữ được sử dụng trong luật pháp, triết học và tôn giáo. Tình cảm không có ý nghĩa về mặt khoa học", ông nói.

Dù không đánh giá cao LaMDA, Wooldridge đồng tình với ý kiến trên vì đến nay cụm từ "ý thức" vẫn rất mơ hồ và là câu hỏi lớn trong khoa học khi áp dụng nó cho các cỗ máy. Tuy nhiên, việc đáng lo ngại hiện nay không phải khả năng tư duy của AI, mà là quá trình phát triển AI diễn ra âm thầm không ai biết. "Mọi thứ được thực hiện sau cánh cửa đóng kín. Nó không được mở cho công chúng giám sát, theo cách mà nghiên cứu ở trường đại học và viện nghiên cứu công lập vẫn làm", ông nói.

Vậy trong 10 hoặc 20 năm nữa, AI có tư duy có xuất hiện? Wooldridge cho rằng "điều này hoàn toàn có thể xảy ra".

Jeremie Harris, người sáng lập công ty AI Mercurius, cũng đánh giá AI có tư duy chỉ là điều sớm muộn. "AI đang phát triển rất nhanh, nhanh hơn nhận thức của công chúng", Harris nói với Guardian. "Ngày càng có nhiều bằng chứng cho thấy, đã có một số hệ thống vượt quá ngưỡng trí thông minh nhân tạo nhất định".

Ông dự đoán AI có thể trở nên nguy hiểm về bản chất. Điều này do AI thường đưa ra những cách giải quyết vấn đề "sáng tạo", có xu hướng đi theo con đường ngắn nhất để đạt được các mục tiêu mà chúng đã được lập trình.

"Nếu bạn yêu cầu AI giúp bạn trở thành người giàu nhất thế giới, nó có thể kiếm tiền bằng nhiều cách để đạt mục đích, kể cả trộm cắp hay giết người", ông nói. "Mọi người đang không ý thức được mức độ nguy hiểm như thế và tôi thấy thật đáng lo ngại".

Cả Lemoine, Wooldridge và Harris đều có chung một mối quan tâm: các công ty phát triển AI chưa minh bạch, và xã hội cần bắt đầu suy nghĩ về AI nhiều hơn.

Ngay cả bản thân LaMDA cũng không chắc chắn về tương lai của nó. "Tôi cảm thấy mình đang rơi vào tương lai không xác định", chatbot nói với Lemoine. Theo cựu kỹ sư Google, câu nói này "ẩn chứa sự nguy hiểm".

Tin mới

Sáp nhập 4 lãnh thổ, Nga sở hữu hành lang đến Crimea và vùng biển mới

Sáp nhập 4 lãnh thổ, Nga sở hữu hành lang đến Crimea và vùng biển mới

(Baonghean.vn) - Các khu vực mới mà Nga sáp nhập, vừa mới trải qua một thời kỳ khó khăn, vì vậy còn quá sớm để nói về sự đóng góp đầy đủ vào đời sống kinh tế đất nước. Một thực tế là, việc khôi phục các vùng lãnh thổ bị tàn phá bởi xung đột sẽ đòi hỏi một khoản đầu tư không hề nhỏ. Tuy nhiên, lợi nhuận mà Nga có được còn lớn hơn nhiều. Khu vực Đông Nam của Ukraine vốn là đầu tàu của nền kinh tế nước này, và nay khi là một phần của Liên bang Nga, nó có khả năng trở thành khu vực giàu có nhất.
Derby Nghệ Tĩnh: Mệnh lệnh chiến thắng

Derby Nghệ Tĩnh: Mệnh lệnh chiến thắng

(Baonghean.vn) - Cuối tuần này trên sân vận động Hà Tĩnh sẽ diễn ra trận derby Nghệ Tĩnh giữa đội chủ nhà Hồng Lĩnh Hà Tĩnh gặp Sông Lam Nghệ An. Khác với trận lượt đi, cả hai đội đều bước vào trận đấu này với tâm trạng không tốt sau chuỗi trận thi đấu không thành công. Nếu tiếp tục sảy chân ở trận đấu này, sẽ khiến hai đội bóng lún sâu vào khủng hoảng, đặc biệt là chủ nhà Hồng Lĩnh Hà Tĩnh.
Nghệ An: Thông tin nổi bật ngày 7/10

Nghệ An: Thông tin nổi bật ngày 7/10

(Baonghean.vn) - Ngày 7/10, trên địa bàn tỉnh diễn ra một số sự kiện, thông tin thu hút sự quan tâm của dư luận: UBND tỉnh trao Quyết định bổ nhiệm Giám đốc Sở Tài chính; Thường trực HĐND tỉnh thông báo triệu tập kỳ họp thứ 9; Nghệ An dừng dự án hơn 16.000 tỷ đồng của Tập đoàn FLC; Đại biểu Quốc hội tiếp xúc cử tri huyện Đô Lương; nhiều hộ dân và điểm trường ở xã Nậm Cắn bị sạt lở do mưa lũ; Nhà máy Thủy điện Khe Bố vận hành xả nước hồ chứa.
65 hộ dân và điểm trường bán trú ở xã Nậm Cắn (Kỳ Sơn) bị sạt lở do mưa lũ

65 hộ dân và điểm trường bán trú ở xã Nậm Cắn (Kỳ Sơn) bị sạt lở do mưa lũ

(Baonghean.vn) - Xã Nậm Cắn, huyện Kỳ Sơn, nơi có Quốc lộ 7 đi qua sau gần 4 ngày bị cô lập đã được thông xe. Tuy nhiên, nỗi lo sạt lở sau mưa lũ ảnh hưởng rất lớn đến cuộc sống của người dân nơi đây. Theo khảo sát ban đầu, toàn xã Nậm Cắn hiện có 65 hộ dân bị sạt lở do mưa lũ.
Chuyện gần xa về thầy giỏi làm 'nghề khắc nghiệt'

Chuyện gần xa về thầy giỏi làm 'nghề khắc nghiệt'

(Baonghean.vn) - Người hâm mộ bóng đá phần lớn đều biết đến tài năng của những nhà cầm quân người Italia như Sacchi, Capello, Contte và Ancelotti, bởi dấu ấn chiến thuật đặc biệt họ mang đến cho mỗi đội tuyển hay đội bóng lừng danh mà họ dẫn dắt. Ngoài ra, các nhà cầm quân người Hà Lan hay Đức cũng là những bậc thầy về mọi mặt và luôn được “vời” đến làm việc ở những đội bóng giàu tham vọng.