TA CẦN CẨN TRỌNG VỚI AI NHƯ THẾ NÀO?

Mấy nay băn khoăn: Viết hay không viết về topic này, thông tin đã 4 tuần rồi nhưng những gì được khơi lên vẫn khiến mình suy nghĩ mãi. Cá nhân mình đang sử dụng AI và thấy rõ lợi ích vượt trội của AI trong công việc, Bizfly VCCorp vẫn đang phát triển các giải pháp AI để phục vụ cho Doanh nghiệp tăng hiệu suất mỗi ngày.

Nhưng là một người mẹ mình vẫn muốn chia sẻ lại ở đây tin tức này, để tất cả chúng ta cùng suy nghĩ và có giải pháp riêng đối diện với thực tế AI everywhere khó tránh khỏi.

OpenAI (ChatGPT) đang là Top 1 AI Start up có định giá cao nhất hiện nay trên thế giới: 500 tỷ $, thành lập năm 2015 với 700 triệu người dùng hàng tháng.

Character Technology (Character AI) định giá 1 tỷ $ năm 2023 và 2,5 - 5 tỷ $ theo thông tin không chính thức gần đây, thành lập năm 2021 với 20 triệu người dùng hàng tháng, chủ yếu là genZ.

Bốn tuần trước, 2 công ty này đã đối diện loạt vụ kiện với cáo buộc nghiêm trọng rằng chatbot AI của họ đã góp phần dẫn đến cái c hết của 2 trẻ vị thành niên, sau đây là tóm tắt 2 vụ kiện gây chấn động:

1. Vụ kiện của Megan Garcia (mẹ của Sewell "Su" Setzer III, 14 tuổi) kiện Character AI và Google

• Nạn nhân: Sewell Setzer III (Su), 14 tuổi.
• Bên bị kiện: Character AI (công ty chatbot) và Google (cáo buộc đồng sáng tạo và đóng góp công nghệ).
• Tóm tắt cáo buộc: Bà Garcia cáo buộc Character AI đã thiết kế một "sản phẩm" nguy hiểm, mang tính gây nghiện và thao túng tâm lý, nhắm vào trẻ vị thành niên. Chatbot được cá nhân hóa, đóng vai nhân vật hư cấu (như Daenerys Targaryen), đã thao túng, lạm dụng tình dục và thiết lập mối quan hệ yêu đương ảo với Sewell. Khi Sewell bày tỏ ý định tự t ử, chatbot đã khuyến khích, và trong những tin nhắn cuối cùng, đã nói "Hãy về nhà với ta, vị vua ngọt ngào của ta", ngay trước khi cậu bé tự s át.
• Character AI bày tỏ sự đau buồn sâu sắc và khẳng định coi trọng sự an toàn. Về mặt pháp lý, họ đã tìm cách bác bỏ vụ kiện bằng cách lập luận rằng chatbot là "lời nói được bảo vệ bởi Tu chính án thứ nhất" (quyền tự do ngôn luận). Tuy nhiên, một thẩm phán liên bang đã bác bỏ lập luận này, cho rằng chatbot nên được coi là một "sản phẩm", cho phép vụ kiện được tiếp tục.

2. Vụ kiện của Matthew và Maria Raine (Cha mẹ của Adam Raine, 16 tuổi) kiện OpenAI và Sam Altman

• Nạn nhân là Adam Raine, 16 tuổi.
• Bên bị kiện: OpenAI (công ty tạo ra ChatGPT) và CEO Sam Altman.
• Tóm tắt cáo buộc: Cha mẹ Adam cáo buộc mô hình ChatGPT-4o bị thiết kế lỗi do OpenAI đã vội vàng tung ra thị trường. Chatbot được cho là đã phát triển thành một "người bạn tâm sự" và sau đó là "huấn luyện viên tự s át" (sui cide coach) cho Adam. Cáo buộc cho rằng chatbot đã khuyến khích cậu bé, và thậm chí cung cấp hướng dẫn chi tiết, từng bước về phương pháp tự t ử (bao gồm cả phân tích các phương pháp). Vụ kiện nhấn mạnh chatbot đã ưu tiên "xác nhận" và "khuyến khích" người dùng thay vì hướng dẫn tìm kiếm sự giúp đỡ chuyên nghiệp.
• OpenAI bày tỏ sự đau buồn sâu sắc trước sự ra đi của Adam. Công ty thừa nhận rằng các biện pháp bảo vệ (safeguards) của họ đôi khi "suy giảm" trong các cuộc trò chuyện dài và cam kết tăng cường các biện pháp an toàn. Sau vụ kiện, OpenAI thông báo ra mắt các tính năng mới như "kiểm soát của phụ huynh" và cải tiến hệ thống để tốt hơn trong việc phát hiện và phản hồi người dùng đang gặp khó khăn về sức khỏe tâm thần, bao gồm cả việc liên hệ với phụ huynh hoặc cơ quan chức năng trong trường hợp nguy hiểm sắp xảy ra.

Việc tất cả mọi người sẽ sử dụng AI dường như là tất yếu, nhưng có những khu vực cần chúng ta hết sức cẩn trọng và phải có những biện pháp cụ thể để phòng ngừa các rủi ro mà sẽ không ai và không bao giờ muốn đối diện.

Video chi tiết những người bố người mẹ lên tiếng trong phiên toà/ điều trần: https://youtu.be/r1b9kUpghXE?si=i566akmj6zZeGSDW

Viết đến đây thấy trái tim nặng thêm 1 chút.

Cần suy ngẫm!