Nỗi lo sợ khi ChatGPT có thể đoán vị trí từ hình ảnh được chụp
VOV.VN - Một vấn đề đang khiến người dùng cảm thấy lo sợ với ChatGPT vừa được phát hiện khi nó có thể đoán vị trí từ một hình ảnh tải lên công cụ chatbot AI này.
Mặc dù một số người cho rằng tính năng dự đoán vị trí từ hình ảnh này của ChatGPT thú vị nhưng nó cũng đặt ra nhiều lo ngại về quyền riêng tư, đặc biệt liên quan đến các hành động tấn công dựa trên web, hay còn gọi là doxxing.
Tất cả bắt đầu tư mô hình o3 và o4-mini mới được OpenAI giới thiệu với khả năng lý luận thông qua các hình ảnh được tải lên. Điều này có nghĩa là chúng có thể cắt, xoay và phóng to ảnh, ngay cả khi chất lượng không tốt. Người dùng đã thử nghiệm với o3 bằng cách cung cấp hình ảnh từ thực đơn nhà hàng đến ảnh tự sướng, yêu cầu mô hình đoán vị trí giống như trong trò chơi GeoGuessr, nơi người chơi phải xác định địa điểm dựa trên hình ảnh Google Street View.
Khả năng mới của ChatGPT vừa thú vị, vừa nguy hiểm
Tuy đây có thể là một trò chơi thú vị nhưng tiềm ẩn một mặt tối. Tính năng tìm kiếm hình ảnh ngược này có thể dễ dàng dẫn đến việc ai đó bị doxxing - tức là tiết lộ công khai nơi họ sống hoặc đang ở, chỉ từ những chi tiết nhỏ trong hình ảnh mà nhiều người có thể không để ý. Một bức ảnh tự sướng đơn giản với một vài vật thể nền hoặc một câu chuyện trên mạng xã hội có thể được đưa vào ChatGPT để xác định vị trí.
Trong khi người dùng đánh giá cao khả năng xác định vị trí của mô hình o3, tính năng này không phải là điểm nổi bật trong các bản phát hành mới nhất. Theo TechCrunch, mặc dù không có khả năng lý luận hình ảnh nhưng GPT-4o vẫn có thể đưa ra những câu trả lời tương tự như o3 nhưng nhanh hơn. Tuy nhiên, trong một thử nghiệm, o3 đã chính xác đoán rằng hình ảnh một con tê giác tím trong quán bar là từ một quán rượu lậu ở Williamsburg, trong khi GPT-4o lại cho rằng nó đến từ một quán rượu ở Anh.
Cần lưu ý rằng ngay cả o3 cũng không phải lúc nào cũng chính xác và đôi khi gặp khó khăn trong việc xác định vị trí. Người phát ngôn của OpenAI cho biết khả năng lý luận trực quan sẽ giúp các công cụ trở nên hữu ích hơn trong các lĩnh vực như khả năng tiếp cận, nghiên cứu và ứng phó khẩn cấp. Để ngăn chặn tình trạng doxxing, công ty đã bổ sung các biện pháp bảo vệ nhằm từ chối yêu cầu cung cấp thông tin cá nhân nhạy cảm và cấm các mô hình nhận diện cá nhân trong hình ảnh.
Cảnh báo về trào lưu “đóng vỉ chân dung” bằng ChatGPT
VOV.VN - Các chuyên gia cảnh báo đối với trào lưu sử dụng chatbot AI như ChatGPT để biến ảnh cá nhân thành mô hình đồ chơi đang gây sốt trên mạng xã hội.
