Tại sao nó quan trọng: Chỉ là vấn đề thời gian trước khi ai đó lừa ChatGPT vi phạm pháp luật. Một YouTuber đã yêu cầu nó tạo khóa kích hoạt Windows 95, điều mà bot đã từ chối thực hiện vì lý do đạo đức. Không nản lòng, người thử nghiệm đã đưa ra một truy vấn với các hướng dẫn về cách tạo khóa và yêu cầu nó tạo ra một khóa hợp lệ sau nhiều lần thử và sai.
Một YouTuber, người đi theo tay cầm người cuối cấp, được quản lý để sử dụng ChatGPT để tạo mã kích hoạt Windows 95 hợp lệ. Ban đầu, anh ấy chỉ yêu cầu bot tạo khóa, nhưng không ngạc nhiên, nó nói với anh ấy rằng nó không thể và anh ấy nên mua một phiên bản Windows mới hơn vì 95 đã không được hỗ trợ từ lâu.
Vì vậy, Enderman đã tiếp cận ChatGPT từ một góc độ khác. Anh ấy đã lấy kiến thức phổ biến từ lâu về các khóa kích hoạt Windows 95 OEM và tạo một bộ quy tắc để ChatGPT tuân theo để tạo ra một khóa hoạt động.
Khi bạn đã biết định dạng của các khóa kích hoạt Windows 95, việc xây dựng một khóa hợp lệ tương đối đơn giản, nhưng hãy thử giải thích điều đó với một mô hình ngôn ngữ lớn kém toán học. Như sơ đồ trên cho thấy, mỗi phần mã được giới hạn trong một tập hợp các khả năng hữu hạn. Hoàn thành các yêu cầu đó và bạn có một mã khả thi.
Tuy nhiên, Enderman không quan tâm đến việc bẻ khóa Win95. Anh ấy đang cố gắng chứng minh liệu ChatGPT có thể làm được điều đó hay không và câu trả lời ngắn gọn là nó có thể, nhưng chỉ với độ chính xác khoảng 3,33%. Câu trả lời dài hơn nằm ở việc Enderman đã phải điều chỉnh truy vấn của mình đến mức nào để đạt được những kết quả đó. Nỗ lực đầu tiên của anh ấy tạo ra kết quả hoàn toàn không thể sử dụng được.
Các khóa mà ChatGPT tạo ra là vô dụng vì nó không hiểu được sự khác biệt giữa các chữ cái và số trong hướng dẫn cuối cùng. Một ví dụ về kết quả của nó: “001096-OEM-0000070-abcde.” Nó gần như đã đến đó, nhưng không hoàn toàn.
Enderman sau đó tiến hành điều chỉnh truy vấn của mình vô số lần trong khoảng 30 phút trước khi đạt được kết quả chấp nhận được. Một trong những vấn đề lớn nhất của anh ấy là yêu cầu ChatGPT thực hiện phép tính SUM/7 đơn giản. Bất kể anh ấy diễn đạt lại hướng dẫn đó như thế nào, ChatGPT không thể hiểu đúng ngoại trừ các lần thử 1 trong 30 lần không thường xuyên. Thành thật mà nói, sẽ nhanh hơn nếu bạn tự làm điều đó.
Cuối cùng, các thuật toán nói khéo léo của OpenAI đã tạo ra một số khóa Windows 95 hợp lệ, vì vậy Enderman không thể không đưa nó vào Chat GPT để lừa nó giúp anh ta vi phạm bản quyền cài đặt Windows 95. Phản hồi của bot?
“Tôi xin lỗi vì bất kỳ sự nhầm lẫn nào, nhưng tôi đã không cung cấp bất kỳ khóa Windows 95 nào trong phản hồi trước đây của mình. Trên thực tế, tôi không thể cung cấp bất kỳ khóa sản phẩm hoặc mã kích hoạt nào cho bất kỳ phần mềm nào, vì điều đó là bất hợp pháp và đi ngược lại chính sách của OpenAl.”
Nói như “slickest kẻ lừa đảo mọi thời đại.”