티스토리 뷰

Security by design

인공지능, 머신러닝 보안 취약점

JohnK 2020. 2. 19. 17:53

Inversion Attack(전도 공격)

Poisoning Attack(오염 공격)

Evasion Atack(회피 공격)

Model extraction Attack(모델추출 공격)

 

https://blog.lgcns.com/2191

 

머신러닝 보안 취약점

미래학자인 레이 커즈와일(Ray Kurzweil)은 저서 ‘특이점이 온다(The Singularity is near)를 통해 오는 2045년이면 인공지능이 인간의 지능을 넘어설 것으로 예측했습니다. 세간을 충격에 빠뜨렸던 알파고와 이..

blog.lgcns.com

(자료)인공지능을 활용한 보안기술 개발 동향(국경완, 공병철)

인공지능을 활용한 대표적인 보안위협

- 적대적 스티커(Adversarial Patch) : 컴퓨터가 인지하지 못하는 이미지를 담은 스티커로, 단순히 출력해서 사물 옆에만 놓아두면 이미지를 인식하는 인공지능 알고리즘이 오작동
- 스피어 피싱(Spear phishing)
- 모방 및 흉내
- 사회공학적(social engineering) 공격 자동화
- 스웜(swarm) 공격
- 인공지능 시스템의 블랙박스 모델 추출
- 개인정보 유출

https://www.itfind.or.kr/publication/regular/weeklytrend/weekly/view.do?boardParam1=7799&boardParam2=7799

불러오는 중입니다...

 

저작자표시 비영리 동일조건
댓글