Công cụ có tên là Silverer (Tạm dịch: "Người tráng bạc") là sản phẩm của Phòng thí nghiệm AI vì Thực thi Pháp luật và An toàn Cộng đồng (AiLECS) – đơn vị nghiên cứu hợp tác chiến lược giữa AFP và Đại học Monash nhằm áp dụng AI để giải quyết các thách thức an ninh và pháp luật phức tạp. Hiện tại, công cụ này đang trong giai đoạn thử nghiệm và được phát triển dưới sự chủ trì của nghiên cứu sinh Elizabeth Perry tại Đại học Monash.

Ảnh minh họa.

Theo Đại học Monash, dự án trên sử dụng kỹ thuật "đầu độc dữ liệu" (Data Poisoning) như một kỹ thuật cốt lõi trong công cụ mới này. Đây là kỹ thuật liên quan đến việc thay đổi một cách tinh vi dữ liệu nguồn trực tuyến, khiến cho các mô hình AI và Học máy (MLs) gặp khó khăn đáng kể trong việc tạo ra, thao túng và sử dụng sai mục đích các hình ảnh hoặc video. Do các công cụ AI cần lượng lớn dữ liệu nguồn, việc đầu độc dữ liệu sẽ khiến mô hình tạo ra kết quả không chính xác, bị lệch hoặc bị hỏng, từ đó giúp dễ dàng phát hiện hình ảnh hoặc video giả mạo do tội phạm tạo ra.

Nghiên cứu sinh Perry giải thích rằng người dùng có thể sử dụng Silverer để chỉnh sửa hình ảnh trước khi tải lên mạng xã hội hoặc Internet. Điều này sẽ thay đổi các điểm ảnh (pixels) để đánh lừa mô hình AI, khiến sản phẩm đầu ra của chúng bị biến dạng, phủ đầy các "biến dạng" hoặc hoàn toàn không thể nhận dạng được.

Phó Giáo sư Campbell Wilson - đồng Giám đốc AiLECS và chuyên gia pháp y kỹ thuật số - nhận định việc tạo ra các hình ảnh giả mạo và độc hại bằng công nghệ nguồn mở đang trở thành vấn đề nghiêm trọng hơn do khả năng sử dụng dễ dàng.

Hãng tin AFP đã ghi nhận sự gia tăng các tài liệu lạm dụng trẻ em được tạo ra bằng AI, khi tội phạm lợi dụng công nghệ để sản xuất và chia sẻ số lượng lớn nội dung khiêu dâm giả mạo trên mạng.

Đại học Monash cho biết, mục tiêu tổng thể của dự án Silverer là phát triển một công nghệ dễ sử dụng cho người dân Australia muốn bảo vệ dữ liệu cá nhân của mình trên mạng xã hội. Phiên bản thử nghiệm của công cụ hiện đang được xem xét để sử dụng nội bộ trong AFP.

Việt Nam phát triển và làm chủ công nghệ số dựa trên chuẩn mở

Chiều 3/11, Bộ Khoa học và Công nghệ tổ chức Diễn đàn Công nghệ mở năm 2025 tại Hà Nội.

Hitachi bắt tay OpenAI xây dựng hạ tầng AI toàn cầu

Hitachi và OpenAI ký biên bản ghi nhớ hợp tác chiến lược, cùng phát triển hạ tầng AI và mở rộng trung tâm dữ liệu toàn cầu, hướng tới tăng tốc phát triển AI tạo sinh tiết kiệm năng lượng.

Google định hình cuộc đua AI với chiến lược dài hạn

Từng bị coi là tụt hậu sau khi ChatGPT ra mắt và hứng nhiều chỉ trích vì những lỗi không đáng có trong các dòng sản phẩm của mình, mới đây Google đã có màn trở lại ngoạn mục, vươn lên thành một trong những “ông lớn” hàng đầu về AI chỉ trong vòng 1 năm.

AI Chatbot - công cụ hỗ trợ đắc lực trong hoạt động ngân hàng

BẮC NINH - Trong làn sóng chuyển đổi số mạnh mẽ của ngành ngân hàng, AI Chatbot (trợ lý ảo) đang dần trở thành một công cụ quan trọng giúp các ngân hàng thương mại nâng cao chất lượng dịch vụ, tối ưu quy trình vận hành và chất lượng chăm sóc khách hàng.