Intel kết hợp với Georgia Tech trong chương trình DARPA để giảm thiểu các tấn công lừa đảo bằng học máy

0
1336

Intel và Viện Công nghệ Georgia (Georgia Tech) đã được cơ quan quản lý các dự án nghiên cứu nâng cao năng lực Quốc phòng (DARPA) chọn làm đơn vị quản lý chương trình Đảm bảo Trí tuệ nhân tạo chống lừa đảo (GARD). Intel là nhà thầu chính trong 4 năm nhằm nâng cao khả năng bảo vệ an ninh mạng chống lại các cuộc tấn công lừa đảo trên các mô hình học máy (ML).

Jason Martin- kỹ sư chính tại Intel Labs và điều tra viên chính cho chương trình DARPA GARD của Intel cho biết: “Intel hợp tác với Georgia Tech nhằm nâng cao hiểu biết chung của hệ sinh thái và khả năng giảm thiểu các lỗ hổng AI và ML. Thông qua nghiên cứu sáng tạo trong các kỹ thuật gắn kết, chúng tôi đang hợp tác để tạo ra một phương pháp tiếp cận nhằm nâng cao khả năng phát hiện đối tượng và cải thiện khả năng của AI và ML để chống lại các cuộc tấn công”

Đôi khi, các đối tượng tấn công cố gắng đánh lừa, thay đổi hoặc phá hủy thuật toán ML của dữ liệu. Khi các mô hình AI và ML được tích hợp vào các hệ thống độc lập và bán tự động ngày càng rộng rãi, điều quan trọng là phải liên tục cải thiện tính ổn định, an toàn và bảo mật trước các đối tượng lừa đảo. Ví dụ: phân loại sai AI và hiểu sai ở cấp độ pixel có thể dẫn đến hiểu sai hình ảnh và gắn nhãn sai hoặc khi đối tượng trong thực tế bị sửa đổi một cách tinh vi có thể gây nhầm lẫn cho các hệ thống nhận thức của AI. GARD sẽ giúp các công nghệ AI và ML trang bị tốt hơn nhằm bảo vệ trước các cuộc tấn công tiềm ẩn trong tương lai.

Các nỗ lực bảo vệ hiện tại để bảo vệ chống lại các cuộc tấn công cụ thể được xác định trước, nhưng vẫn dễ bị tấn công khi thực hiện kiểm tra ngoài các thông số thiết kế được chỉ định sẵn. GARD dự định tiếp cận phương pháp bảo vệ ML bằng cách phát triển các biện pháp bảo vệ trên diện rộng nhằm giải quyết nhiều cuộc tấn công có thể xảy ra trong các tình huống nhất định khiến mô hình ML phân loại sai hoặc hiểu sai dữ liệu. Intel có kiến ​​trúc rộng rãi và dẫn đầu về khả năng bảo mật, do đó là lựa chọn hàng đầu để đổi mới công nghệ AI và ML góp phần nâng cao hiệu quả.

Mục tiêu của chương trình GARD là thiết lập các cơ sở lý thuyết về hệ thống ML giúp xác định các lỗ hổng của hệ thống và mô tả các thuộc tính để nâng cao tính mạnh mẽ của hệ thống đồng thời thúc đẩy tạo ra các biện pháp bảo vệ hiệu quả. Thông qua chương trình này, GARD tạo ra các công nghệ ML chống lừa đảo với các tiêu chí nghiêm ngặt để đánh giá hiệu quả của chúng.

Trong giai đoạn đầu tiên của GARD, Intel và Georgia Tech đang tăng cường công nghệ phát hiện đối tượng thông qua sự thống nhất về không gian, thời gian cho cả hình ảnh tĩnh và video. Intel cam kết tăng cường đổi mới AI và ML và tin tưởng rằng việc hợp tác với các nhà nghiên cứu bảo mật chuyên môn cao trên toàn cầu là một phần quan trọng trong việc giải quyết các lỗ hổng bảo mật tiềm ẩn cho ngành công nghiệp  lớn hơn và cho các khách hàng.

Biên dịch: Bắc Đặng

Để cập nhật tin tức công nghệ mới nhất và các sản phẩm của công ty AIoT JSC, vui lòng truy cập link: http://aiots.vn hoặc linhkienaiot.com

0 0 Phiếu bầu
Article Rating
Subscribe
Notify of
guest
0 Comments
Phản hồi nội tuyến
Xem tất cả các bình luận