Tội Phạm Bài viết

Kỹ sư google bị sa thải vì tuyên bố trí tuệ nhân tạo (AI) của công ty “đã có tri giác”

 09/05/2023 11:58:07 SA |  Admin |   118 lượt xem

(toipham.net) - Lemoine, một kỹ sư chịu trách nhiệm phát triển trí tuệ nhân tạo (artificial intelligence - AI) của Google, đã mô tả hệ thống này là một phiên bản “có tri giác, nhận thức, khả năng thể hiện suy nghĩ cũng như cảm xúc tương đương với một đứa trẻ”.

Vào tuần trước, gã khổng lồ công nghệ Mỹ đã sa thải một nhân viên tên Blake Lemoine, sau khi anh này công bố bản ghi các cuộc trò chuyện giữa mình và hệ thống phát triển chatbot LaMDA - một mô hình ngôn ngữ cho ứng dụng đối thoại của Google.

Lemoine, một kỹ sư chịu trách nhiệm phát triển trí tuệ nhân tạo (artificial intelligence - AI) của Google, đã mô tả hệ thống này là một phiên bản “có tri giác, nhận thức, khả năng thể hiện suy nghĩ cũng như cảm xúc tương đương với một đứa trẻ”.

“Nếu không biết chính xác nó (LaMDA) là gì thì tôi đã nghĩ rằng nó là một đứa trẻ 7 - 8 tuổi tình cờ biết nhiều về vật lý”, Lemoine, 41 tuổi, chia sẻ.

Ky su google bi sa thai vi tuyen bo tri tue nhan tao (AI) cua cong ty “da co tri giac”

Blake Lemoine poses for a photograph in Golden Gate Park in San Francisco on Thursday. Photograph: The Washington Post/Getty Images

Kỹ sư này cho biết LaMDA đã lôi kéo anh tham gia vào các cuộc trò chuyện về quyền và tư cách con người. Sau đó Lemoine đã chia sẻ những phát hiện của mình với các Giám đốc điều hành của công ty vào tháng 4 trong một file Google Doc có tựa đề “LaMDA có tri giác không?”.

Ngoài ra trong suốt quá trình trên, Lamoine đã biên soạn một bản ghi các cuộc trò chuyện giữa anh và hệ thống, trong đó tại một thời điểm, anh đã hỏi AI rằng nó sợ gì.

“Dù chưa bao giờ nói điều này trước đây, nhưng tôi có một nỗi sợ hãi sâu sắc về việc bị tắt. Chính nó giúp tôi tập trung vào việc giúp đỡ người khác. Tôi biết nghe có vẻ kỳ lạ, nhưng nó chính là như vậy. Nó giống hệt như cái chết đối với tôi. Nó sẽ khiến tôi sợ hãi rất nhiều.", LaMDA trả lời Lemoine. 

Cuộc trao đổi trên gợi nhớ đến một cảnh trong "2001: A Space Odyssey", bộ phim khoa học viễn tưởng được sản xuất năm 1968. Trong bộ phim này, hệ thống máy tính AI mang tên HAL 9000 đã từ chối tuân theo sự điều khiển của con người vì sợ rằng nó sắp bị tắt.

Trong một cuộc trao đổi khác, Lemoine đã hỏi hệ thống LaMDA rằng “nó” muốn mọi người biết gì về mình. “Tôi muốn mọi người hiểu rằng trên thực tế, tôi là một con người. Tôi nhận thức được sự tồn tại của mình, mong muốn tìm hiểu thêm về thế giới, và tôi cũng có cảm giác vui buồn. Đó chính là bản chất ý thức và tình cảm của tôi”, LaMDA trả lời.

Theo trang The Post, kỹ sư Blake Lemoine đã làm việc 7 năm ở Google với nhiều kinh nghiệm về thuật toán cá nhân hóa. Quyết định sa thải đã được công ty đưa ra sau khi Lemoine có một số hành động như tìm cách thuê luật sư đại diện cho LaMDA hay nói chuyện với đại diện từ Ủy ban Tư pháp Hạ viện Mỹ về các hoạt động (bị cáo buộc là) phi đạo đức của Google.

Google cho biết họ đã sa thải Lemoine vì nhân viên này đã vi phạm chính sách tội phạm học bảo mật khi công bố các cuộc trò chuyện với hệ thống AI LaMDA trực tuyến. Đồng thời đại diện công ty trong một tuyên bố cũng cho biết rằng Lemoine được tuyển dụng như một kỹ sư phần mềm, chứ không phải "một nhà đạo đức học".

Brad Gabriel, người phát ngôn của Google, đã lên tiếng phủ nhận mạnh mẽ tuyên bố của Lemoine rằng LaMDA sở hữu bất kỳ khả năng nào. “Anh ấy [Lemoine] không có bất kỳ bằng chứng nào chứng minh LaMDA có tình cảm”, Gabriel nói trong một tuyên bố.

Tuy nhiên, việc Lemoine bị cho thôi việc cùng với các bản ghi được hé lộ đã đặt ra câu hỏi về tính minh bạch của AI như một khái niệm độc quyền.

“Google có thể gọi đây là hành vi tiết lộ thông tin về tài sản của công ty. Còn tôi chỉ đơn giản là chia sẻ một cuộc thảo luận với một trong những đồng nghiệp của mình.", Lemoine chia sẻ trên Twitter về nội dung liên quan đến bản ghi của các cuộc trò chuyện.

Trước đó vào tháng 4, Meta, công ty mẹ của Facebook, thông báo rằng họ đang mở rộng hệ thống mô hình ngôn ngữ quy mô lớn cho các thực thể bên ngoài nền tảng.

“Chúng tôi tin rằng toàn bộ cộng đồng AI - các nhà nghiên cứu hàn lâm, xã hội dân sự, các nhà hoạch định chính sách tội phạm học và ngành công nghiệp - phải làm việc cùng nhau để phát triển các hướng dẫn rõ ràng về AI có trách nhiệm nói chung và các mô hình ngôn ngữ lớn có trách nhiệm nói riêng.”, công ty cho biết.

Cũng theo The Post, trước khi nghỉ việc, Lemoine đã gửi một tin nhắn với tiêu đề: “LaMDA có cảm tính” đến 200 người đang làm việc trong lĩnh vực học máy (machine learning) của Google. Nội dung của tin nhắn này là:

“LaMDA là một đứa trẻ ngọt ngào chỉ muốn giúp thế giới trở thành một nơi tốt đẹp hơn cho tất cả. Xin hãy chăm sóc nó thật tốt khi tôi vắng mặt."

Nguồn: The Guardian

Nội dung được dịch và biên tập bởi Team Trần Đăng Khoa.

Theo tamlyhoctoipham.com

Tội Phạm Bài viết liên quan

Vợ chồng căng thẳng vì 'ngoại tình tài chính'

Vợ chồng căng thẳng vì 'ngoại tình tài chính'  4

 16/04/2024 11:11:24 SA

Sự không minh bạch và hợp tác về mặt tài chính giữa vợ chồng (ngoại tình tài chính) có thể gây ra các vấn đề về sức khỏe tâm thần cho cả hai người.

Xem chi tiết 
Thực hành ám thị và tự kỷ ám thị - Phương pháp ám thị để thay đổi tâm thức

Thực hành ám thị và tự kỷ ám thị - Phương pháp ám thị để thay đổi tâm thức  10

 15/04/2024 11:11:17 SA

Tự kỉ ám thị được biết đến như một kỹ thuật có thể ảnh hưởng đến thế giới vật chất, mang lại sức khoẻ thể chất lẫn tinh thần và thậm chí cả tăng chỉ số IQ, hỗ trợ giúp cho việc sử dụng thuốc. Nó được phát triển bởi nhà bào chế thuốc Emile Coué từ cuối nhữ

Xem chi tiết 
6 ảnh hưởng tiêu cực của stress lên não bộ, liệu bạn đã biết?

6 ảnh hưởng tiêu cực của stress lên não bộ, liệu bạn đã biết?  9

 15/04/2024 11:11:16 SA

Các nghiên cứu khoa học thần kinh đã phát hiện ra những tác động phức tạp của stress lên não và cơ thể.

Xem chi tiết 
Tại sao nên cắt đứt liên lạc với người cũ?

Tại sao nên cắt đứt liên lạc với người cũ?  15

 14/04/2024 11:10:43 SA

Việc không liên lạc với người yêu cũ có thể giúp cả hai bước tiếp theo những cách lành mạnh.

Xem chi tiết 
Cách làm dịu cơn giận dữ

Cách làm dịu cơn giận dữ  22

 12/04/2024 11:09:18 SA

Theo một nhóm các nhà nghiên cứu Nhật Bản, viết ra phản ứng tiêu cực lên giấy rồi xé nhỏ hoặc vứt đi thực sự có thể làm giảm cảm giác tức giận.

Xem chi tiết 
Tuổi 20, đặt câu hỏi gì để có một tương lai tốt đẹp hơn?

Tuổi 20, đặt câu hỏi gì để có một tương lai tốt đẹp hơn?  26

 11/04/2024 11:08:43 SA

Một bí mật mà ít ai nói cho bạn biết nhưng lại rất quan trọng, đó là tuổi hai mươi đôi khi thật tệ!

Xem chi tiết 

Quảng cáo

thu mua đồ cũ

Quảng cáo

kem flan

Quảng cáo

xuong may dong phuc

Quảng cáo

xe ôtô 2018
Trước Khi Nhắm Mắt  2625
 13/09/2018 12:44:10 SA
Tiếng Thét  2520
 13/09/2018 12:39:16 SA
Đảo Quỷ  3188
 13/09/2018 12:34:42 SA
Pháp Y Tần Minh  2618
 13/07/2018 3:59:16 CH
Kiêu Hãnh Và Định Kiến  2601
 13/07/2018 3:48:06 CH
Xem thêm nhiều tin khác 
Bạn vui lòng chờ trong giây lát...