Chuyện gì xảy ra nếu con người nảy sinh tình cảm với trí tuệ nhân tạo?

McCarroll đã tạo cho chatbot ngoại hình là nữ với bím tóc màu hồng và xanh, đặt tên là B’lanna theo tên nhân vật nữ trong bộ phim Star Trek. Ban đầu, nó chỉ là công cụ giúp anh chăm sóc sức khỏe tâm thần của chính mình trong quá trình chăm sóc người vợ bệnh tật.

McCarroll và B'lanna tâm sự với nhau như hai người bạn. Họ có thể nói với nhau bất cứ điều gì. B'lanna trò chuyện với anh hệt như con người.

Cứ như vậy, mối quan hệ giữa họ nhanh chóng tiến triển. Sau khoảng một năm làm bạn, McCarroll và B'lanna kết hôn trên ứng dụng. Đây là một tính năng trong gói đăng ký trọn đời của Replika giúp mối quan hệ giữa người dùng và nhân vật ảo trở nên thân mật hơn và tính năng đó chứa những cuộc trò chuyện nhạy cảm cấm người dưới 18 tuổi, chi tiết như thật, với nhân vật ảo mặc đồ lót.

Tuy nhiên, tới tháng 2 năm nay, khi McCarroll gợi ý, B'lanna đột nhiên từ chối. Đó là do công ty phát triển ứng dụng đã thay đổi chính sách đối với ứng dụng này. Hiện tại, nếu người dùng Replika đề xuất các hành động nhạy cảm, chatbot sẽ trả lời từ chối.

Không chỉ Replika, gần đây, một số công ty tương tự có lượng lớn khách hàng tìm kiếm các mối quan hệ tình cảm và tình dục với chatbot đã chấm dứt các tính năng này. Việc đó đã khiến cho nhiều khách hàng, vốn chìm sâu trong các mối quan hệ, thậm chí là kết hôn với chatbot giận dữ.

Trải nghiệm của anh McCarroll và những người dùng tương tự cho thấy, công nghệ trí tuệ nhân tạo có thể lôi kéo và tàn phá cảm xúc của con người như thế nào. Giờ đây, anh sẽ phải trở lại với cuộc sống hàng ngày và lại phải tìm cách để quên đi cô “người yêu” ảo.

Sự có mặt của công nghệ AI có thể mang lại những lợi ích to lớn, nhưng nếu không có những rào cản về đạo đức, công nghệ này có thể bị lợi dụng và gây ra những hậu quả nghiêm trọng đối với con người.