4월 4주차 AI 모음

참조

https://www.youtube.com/watch?v=ZcoOW8nqVP8

https://www.youtube.com/watch?v=Crd1SR9ibRI

 

허깅 페이스가 해킹된 사건

• 사건: 인기 있는 AI 모델 플랫폼인 허깅 페이스에서 보안 침해가 발생하여 인프라 취약점이 드러났습니다.
• 악용: Wiz 리서치 팀은 임의 코드를 실행할 수 있는 악의적인 모델을 업로드하여 보안 허점을 노출시켰습니다.
• 허깅 페이스의 대응: 허깅 페이스는 새로운 형식인 "세이프 텐서(Safe Tensors)"를 도입하여 모델 로딩 시 안전하지 않은 코드를 실행할 수 없게 했습니다.

보안 조치

• 세이프 텐서: 이 새로운 형식은 모델이 임의 코드를 실행할 수 없도록 하여 보안을 강화합니다.
• 모델 스캐닝: 허깅 페이스는 잠재적으로 위험한 코드를 실행할 수 있는 모델에 대해 적극적으로 경고합니다. 또한 안전하지 않은 형식을 사용하는 모델을 플래그로 표시합니다.

우려 사항

• 추론 API 위험: 경고에도 불구하고 허깅 페이스의 추론 API는 위험한 모델의 다운로드를 방지하지 않습니다.
• 권한 상승: Wiz 팀은 위험한 모델이 허깅 페이스의 인프라를 위험에 빠뜨릴 수 있다는 것을 보여주었습니다. 이는 허깅 페이스의 클러스터 내에서 상당한 위험을 노출시켰습니다.

제안된 해결책

• 위험한 모델에 대한 추론 API 비활성화: Pickle을 사용하는 모델에 대해 API를 비활성화함으로써 허깅 페이스는 보안 침해를 방지할 수 있습니다.
• 세이프 텐서 촉진: 허깅 페이스는 더 안전한 형식의 사용을 장려하여 위험을 줄일 수 있습니다.
• 보안 감사 증가: 허깅 페이스는 정기적인 감사를 고려하여 잠재적인 취약점을 식별하고 해결할 수 있습니다.

수치 기반 통찰력

• 보안 위험: 이번 침해로 위험한 모델 하나가 전체 인프라에 영향을 미칠 수 있음이 드러났습니다.
• 인간 참여: 허깅 페이스의 자동화된 측면에도 불구하고, 보안 위험을 식별하고 완화하는 데 인간의 감독이 필수적입니다.

 

라마 3의 출시

• 오픈소스 공개: 메타는 라마 3를 오픈소스로 공개하여 80억 및 700억 매개변수 모델을 제공하고, 4000억 매개변수 모델이 훈련 중에 있습니다.
• 성능 개선: 80억 매개변수의 라마 3는 벤치마크에서 라마 2의 700억 매개변수 모델을 능가합니다. 4000억 매개변수 모델은 GPT-4의 성능 수준에 가까워집니다.
• 협업: 라마 3의 오픈소스 전략은 AWS, 데이터브릭스, 구글 클라우드와의 협업을 이끌어내며, 이러한 협력 접근 방식은 혁신을 촉진하고 모델의 안전성을 높입니다.

어도비 프리미어 프로의 생성형 AI 기능

• 생성형 AI: 어도비 프리미어 프로는 비디오에서 객체 생성 및 제거를 위한 생성형 AI를 도입했습니다. 이 기능은 새로운 객체의 원활한 삽입과 AI를 사용한 비디오 콘텐츠의 확장을 허용합니다.
• 서드파티 모델과의 통합: 어도비는 추가 비디오 생성 기능을 위해 오픈AI의 모델 "소라"를 통합하여 AI로 편집 기능을 향상시킵니다.

마이크로소프트 VASA 및 기타 혁신

• 마이크로소프트 VASA: 한 장의 이미지와 오디오 입력으로 비디오를 생성하는 새로운 기술입니다. 출력물이 놀랍도록 현실적이며 다양한 응용 분야를 제공합니다.
• 스태빌리티 AI의 스태이블 디퓨전 3: 스태빌리티 AI는 텍스트 생성 및 셀프 호스팅을 위한 API를 공개하여 유연성과 다른 도구와의 통합을 향상시켰습니다.
• 구글의 AI 투자: 구글은 AI 연구 및 개발을 가속화하기 위해 1000억 달러 이상의 상당한 투자를 발표했습니다. 이 투자는 구글의 트랜스포머 기반 모델 작업 및 인피니트 어텐션과 같은 새로운 기술과 일치합니다.