Một 'deepfake' của một thanh thiếu niên vaping là trung tâm của một vụ quấy rối — nhưng nếu nó không phải là giả thì sao?

Một 'deepfake' của một thanh thiếu niên vaping là trung tâm của một vụ quấy rối — nhưng nếu nó không phải là giả thì sao?

Các chuyên gia đang đặt ra nghi ngờ rằng trí thông minh nhân tạo đã được sử dụng để tạo ra một video mà cảnh sát đang gọi là 'deepfake' và là trung tâm của một cuộc chiến pháp lý đang diễn ra ở Pennsylvania.


optad_b

Vụ việc đã gây xôn xao dư luận vào tháng trước sau khi mẹ của một nữ cổ động viên trung học bị cáo buộc đã thao túng hình ảnh và video trong nỗ lực làm cho đối thủ của con gái cô ấy đang uống rượu, hút thuốc và chụp ảnh khỏa thân.

Người mẹ, Raffaela Spone, 50 tuổi, được cho là đã gửi nội dung có chủ đề từ một số ẩn danh cho ba hoạt náo viên và huấn luyện viên của họ.



Văn phòng Biện lý Quận Bucks, nơi đã buộc tội Spone với ba tội danh quấy rối trẻ em trên mạng và ba tội danh quấy rối, đã đề cập đến thuật ngữ deepfake khi thảo luận về các hình ảnh cũng như video mô tả một trong những nạn nhân bị cáo buộc là vaping.

Tuy nhiên, lời buộc tội đang đặt ra những câu hỏi nghiêm trọng về sự hiểu biết của cơ quan thực thi pháp luật về công nghệ deepfake và việc truyền thông sẵn sàng lặp lại các tuyên bố của họ mà không cần xác minh.

Mặc dù các công tố viên chưa cung cấp thông tin chi tiết cụ thể, nhưng các công cụ được thiết kế để khiến phụ nữ khỏa thân trong hình ảnh với sự hỗ trợ của trí tuệ nhân tạo (AI) tồn tại . Thay vào đó, video vaping bị cáo buộc đã thúc đẩy phản hồi đáng kể từ các chuyên gia deepfake.

Mặc dù ban đầu, bản ghi âm bị cáo buộc là deepfake không được công bố rộng rãi, nhưng một bản ghi âm trên điện thoại di động của một thiết bị khác đang phát đoạn phim vaping đã được cung cấp cho NBC News vào tháng trước sau khi một trong những nạn nhân bị cáo buộc đưa ra.



Madi Hame, một cổ động viên 17 tuổi của đội Victory Vipers, phủ nhận với NBC News rằng đoạn phim thực sự cho thấy cô ấy vaping. Hame nói rằng cô ấy đã biết về video sau khi nó được Spone gửi, được cho là bởi Spone, cho các huấn luyện viên cổ vũ của cô ấy.

“Tôi nghĩ nếu tôi nói ra, sẽ không ai tin tôi vì rõ ràng là có bằng chứng, có video — nhưng rõ ràng là video đó đã bị thao túng”, Hame nói với NBC News.

Daily Dot đã liên hệ với Jennifer, mẹ của Hame, người xuất hiện cùng với Hame trong cuộc phỏng vấn của NBC News, để hỏi về video vaping, nhưng không nhận được trả lời vào thời điểm báo chí.

Henry Ajder, một chuyên gia truyền thông tổng hợp và deepfake có trụ sở tại Vương quốc Anh, là một trong những người đầu tiên đặt câu hỏi về video vaping sau khi ABC News phát sóng một báo cáo tương tự.

“Tôi đã có những dè dặt về câu chuyện của một bà mẹ làm những trò cổ vũ cho các đối thủ cổ vũ của con gái mình,” Ajder đã tweet vào tháng trước. “Một trong những video do ABC phát hành có vẻ như không phải là video sâu nhưng họ vẫn gắn nhãn đó là video mà không có bằng chứng hoặc phân tích đáng kể.”

Các chuyên gia deepfake khác dường như có cùng mối quan tâm. Người tạo deepfake nổi tiếng trên mạng được biết đến với biệt danh Tiến sĩ Fakenstein —Người hiện đang làm nghệ sĩ AI cho chương trình hài kịch Sassy Justice được phát triển bởi những người sáng tạo của South Park là Trey Parker và Matt Stone — nói với Daily Dot rằng video vaping dường như không được tạo nhân tạo.



Cụ thể, Tiến sĩ Fakenstein lưu ý rằng video thiếu một số trục trặc nhất định mà hầu như luôn xuất hiện trong ảnh sâu khi một khuôn mặt bị che bởi một vật thể khác.

Họ nói: “Thật khó để xem đó là một video của một video, nhưng nó không giống như một sự chia sẻ sâu sắc đối với tôi”. “Ánh sáng chuyển dịch như tự nhiên, không bị chập chờn xung quanh nơi bàn tay che mặt, không bị chập chờn khi đám mây vape đi trước mặt, điều này rất khó nếu không muốn nói là không thể làm được nếu không có trục trặc.”

Daily Dot đã liên hệ với Sở cảnh sát thị trấn Hilltown , công ty đã điều tra và sau đó đã tiến hành bắt giữ Spone, để hỏi về video vaping.

Cảnh sát trưởng Christopher Engelhart tuyên bố rằng ông tin rằng các tài liệu buộc tội Spone không hoàn toàn gắn nhãn video là một trò lừa đảo sâu sắc.

Engelhart cho biết: “Sự hiểu biết của tôi là nó được liệt kê là một công nghệ sâu sắc hoặc công nghệ tương tự.

bên trong khiếu nại hình sự chống lại Spone, cảnh sát viên Matthew Reiss của thị trấn Hilltown đề cập đến video vaping là “công việc của một chương trình giống hoặc tương tự như‘ Deep Fakes ’.”

Khi bị thúc ép về việc liệu bộ phận có giải thích khả năng video vaping hoàn toàn không phải là một trò chơi sâu hay không, Engelhart nói rằng ông không chắc liệu thuật ngữ được sử dụng để mô tả video đã được đưa ra bởi nạn nhân hoặc cảnh sát bị cáo buộc hay không.

Engelhart tiếp tục khẳng định rằng các nhà điều tra đã tiến hành phân tích pháp y về đoạn video để xác định rằng nó đã bị thao túng.

“Điều khẳng định là nạn nhân đó không phải là vaping,” Engelhart nói thêm. “Điều khẳng định là cô ấy [Spone] đã có thể thao túng điều đó để có vẻ như cô ấy đang vaping.”

Nhưng các chuyên gia nghi ngờ rằng ngay cả những người tạo deepfake giỏi nhất cũng có thể tạo ra một video thuyết phục như vậy, chứ đừng nói đến Spone. Khi được hỏi liệu người mẹ 50 tuổi có khả năng kêu gọi sự giúp đỡ từ người tạo deepfake hay không, Engelhart nói rằng mặc dù có khả năng xảy ra, nhưng không có bằng chứng nào vào thời điểm này cho thấy Spone có đồng phạm.

Derpfakes, một nghệ sĩ deepfake nổi tiếng khác với những sáng tạo đã thu được hàng triệu lượt xem trực tuyến, cũng đã xem video vaping do NBC News trình bày và nói với Daily Dot rằng họ không thể nói chắc chắn rằng nó đã bị thao túng.

Derpfakes nói: “Tôi muốn nói rằng điều đó là xác thực. “Nếu đó là một deepfake thì chắc chắn nó cần một trình độ kỹ năng hiệu ứng hình ảnh nhất định chứ không phải là một phần mềm deepfake độc ​​đáo.”

Trong một họp báo tháng trước, Luật sư Quận Bucks Matt Weintraub dường như đã gợi ý rằng video vaping dựa trên cảnh quay hiện có từ các tài khoản mạng xã hội của nạn nhân.

“Các video hoặc hình ảnh đã tồn tại dưới một số hình thức và sau đó là cáo buộc của chúng tôi — điều này tất nhiên phải được chứng minh tại phiên tòa, cô ấy vô tội cho đến khi được chứng minh là có tội — nhưng cáo buộc của chúng tôi là bà Spone đã lấy những hình ảnh hiện có từ phương tiện truyền thông xã hội hiện có từ ba người này Weintraub nói.

Tuyên bố tương tự như tuyên bố của Engelhart với Daily Dot rằng Spone bị cáo buộc đã sử dụng video hợp pháp làm cơ sở cho deepfake. Cảnh sát không biết liệu khuôn mặt của nạn nhân bị cáo buộc có được thêm vào video của một phụ nữ trẻ khác đang vaping hay không hay liệu một cây bút và khói vaping đã được thêm kỹ thuật số vào video hợp pháp của nạn nhân bị cáo buộc hay không.

Bất chấp điều đó, các chuyên gia vẫn nghi ngờ rằng một trong hai kịch bản có phải là sự thể hiện chính xác của cảnh quay hay không.

Người sáng tạo deepfake nổi tiếng được biết đến với cái tên Shamook , người có video đã được xem hơn 21 triệu lần chỉ riêng trên YouTube, lập luận rằng mặc dù độ phân giải của video vaping là “rất thấp, nhưng nó quá rõ ràng để trở thành deepfake”.

Shamook nói với Daily Dot: “Theo quan điểm của tôi, đó không phải là một món ăn sâu sắc. “Khói từ vape sẽ quá khó để tạo ra… Tôi chỉ không thể thấy bất kỳ bằng chứng xác đáng nào cho thấy đó là một điếu sâu”.

Weintraub cũng tuyên bố trong cuộc họp báo rằng các nhà điều tra xác định rằng video vaping đã bị thao túng sau khi phân tích “siêu dữ liệu” của nó, một thuật ngữ đề cập đến thông tin được nhúng trong phương tiện kỹ thuật số có thể tiết lộ cách thức và thời điểm nó được chỉnh sửa lần cuối.

Nhưng sau khi liên hệ với Reiss, sĩ quan điều tra Spone, Daily Dot biết được rằng cảnh sát chưa bao giờ thực sự thu được video vaping gốc. Thay vào đó, giống như những gì đã thấy trên NBC News, cảnh sát chỉ có quyền truy cập vào bản ghi âm trên điện thoại di động do Spone quay video vaping đang được phát trên một thiết bị riêng biệt. Do đó, bất kỳ phân tích siêu dữ liệu nào sẽ không bao gồm thông tin về video nguồn.

Trả lời câu hỏi về cách có thể xác định rằng cảnh quay vaping đã bị thao túng mà không có quyền truy cập vào video gốc, Reiss lập luận rằng anh có thể nhìn thấy bằng “mắt thường” của mình những yếu tố “không có ý nghĩa”.

Reiss nói: “Nguồn gốc nơi bà Spone nghĩ ra video đó vẫn còn là một câu hỏi. “Và chúng tôi hy vọng rằng bà Spone trong quá trình điều trần hoặc xét xử sơ bộ sẽ cho chúng tôi biết nguồn gốc và ý định của bà ấy là gì.”

Reiss đã tuyên bố dứt khoát rằng “trí thông minh nhân tạo đã được sử dụng” trong các bức ảnh khiến một số hoạt náo viên khỏa thân xuất hiện, điều này sẽ phù hợp với công nghệ hiện tại được thiết kế để làm điều đó. Nhưng sự tồn tại của những bức ảnh bị thay đổi đó, cùng với sự phủ nhận từ nạn nhân bị cáo buộc liên quan đến việc cô ấy được đưa vào video vaping rõ ràng, dường như là toàn bộ cơ sở cho niềm tin rằng đoạn phim đã bị thao túng, mặc dù không có bằng chứng kỹ thuật nào hỗ trợ cho yêu cầu.

Từ “deepfake”, như được đề cập trong các tài liệu buộc tội, dường như đã trở thành một thuật ngữ phổ biến giữa cảnh sát, văn phòng biện lý quận và giới truyền thông khi thảo luận về bất kỳ và tất cả nội dung kỹ thuật số liên quan đến vụ việc.

Phiên tòa tiếp theo của Spone sẽ diễn ra vào ngày 14 tháng 5, nơi Reiss cho biết thêm thông tin về cuộc điều tra sẽ được công khai.

Mặc dù bằng chứng mới có thể thay đổi vụ án, nhưng quan điểm cho rằng cảnh sát có thể đề cập không chính xác đến một video xác thực khi bị thao túng không nằm ngoài khả năng.

Rắc rối hơn nữa, có vẻ như không có phương tiện truyền thông nào cố gắng xác minh rằng đoạn phim vaping thực sự là một bản deepfake trước khi phát đi yêu cầu bồi thường cho hàng triệu người Mỹ.

Các phương tiện truyền thông có thể có sai sót và khả năng hệ thống tư pháp hình sự có thể áp dụng sai luật chống lại các video bị mô tả sai thành video sâu là điều khiến các chuyên gia lo lắng nhất.

Shamook nói thêm: “Thật đáng sợ nếu nó không phải là deepfake. “Đây có thể là bước khởi đầu của việc mọi người có thể làm mất uy tín bằng chứng thực chỉ bằng cách nói‘ deepfake ’.”

Bỏ video vaping sang một bên, các cáo buộc khác chống lại Spone, nếu là sự thật, vẫn còn đầy rẫy và vụn vặt. Nhưng hậu quả của vụ án chống lại cô ấy, nếu phụ thuộc một phần vào thông tin không chính xác, có thể gây ra những phân nhánh nguy hiểm trong thế giới của các phương tiện truyền thông bị thao túng (và không bị thao túng).


Câu chuyện công nghệ hàng đầu của tuần này

'Mệt mỏi khi nhìn thấy những tên tội phạm được tôn vinh': Cảnh sát trên khắp đất nước quyên góp để gây quỹ cho sĩ quan đã giết Breonna Taylor
FCC đang bế tắc. Khi nào thì Biden cuối cùng sẽ sửa chữa điều đó?
Kẻ trộm Meme F * ck Jerry đã lấy gần 1 triệu đô la cứu trợ coronavirus
Chào mừng bạn đến với thế giới ngày càng mở rộng của các thuyết âm mưu về hộ chiếu vắc-xin
Một 'deepfake' của một thanh thiếu niên vaping là trung tâm của một vụ quấy rối — nhưng nếu nó không phải là giả thì sao?
Đăng ký để nhận được Daily Dot’s Người nội bộ Internet bản tin cho các tin tức khẩn cấp từ tuyến đầu của trực tuyến.