본문 바로가기

전체 글

Anthropic's Claude 3는 자의식이 있는가? https://www.youtube.com/watch?v=GBOE9fVVVSM& 결론: 없다실험결과를 보면 그냥 소설 잘쓰는 AI 1이다. 끝 더보기
구글이 Gemma를 왜 냈을까? Gemini가 1차적으로 망하고 Gemma를 open source로 풀었는데, 곰곰히 생각해보니 좀 이상하다원래 Gemma를 준비하고 있지 않았던 것 같은데 말이다이 말은 Gemini가 망하고 어떻게 다시 마케팅적으로 구글을 ai 업계에서 일으켜 세울 것인가와 관련 있어 보인다마치 메타를 따라하듯이 말이다.메타가 오픈소스로 많은 사람들에게 마케팅적으로 ai 잘하는 기업으로 소문난 전략을 카피켓한 것으로 보인다 더보기
4월 4주차 AI 모음 참조 https://www.youtube.com/watch?v=ZcoOW8nqVP8 https://www.youtube.com/watch?v=Crd1SR9ibRI 허깅 페이스가 해킹된 사건 사건: 인기 있는 AI 모델 플랫폼인 허깅 페이스에서 보안 침해가 발생하여 인프라 취약점이 드러났습니다. 악용: Wiz 리서치 팀은 임의 코드를 실행할 수 있는 악의적인 모델을 업로드하여 보안 허점을 노출시켰습니다. 허깅 페이스의 대응: 허깅 페이스는 새로운 형식인 "세이프 텐서(Safe Tensors)"를 도입하여 모델 로딩 시 안전하지 않은 코드를 실행할 수 없게 했습니다. 보안 조치 세이프 텐서: 이 새로운 형식은 모델이 임의 코드를 실행할 수 없도록 하여 보안을 강화합니다. 모델 스캐닝: 허깅 페이스는 잠재적으.. 더보기
Dijkstra's Hidden Prime Finding Algorithm https://www.youtube.com/watch?app=desktop&v=fwxjMKBMR7s 몰랐던걸 알았다... import heapq import time # dijkstraPrimes_heapq_2 함수 정의 def dijkstraPrimes_heapq_2(n): pool = [(4, 2)] primes = [2] for i in range(3, n): current_value, current_prime = heapq.heappop(pool) if current_value > i: heapq.heappush(pool, (i**2, i)) primes.append(i) else: while current_value 더보기
NN 구조 한번에 펼쳐보기 https://netron.app/ Netron netron.app 더보기
VAE - 간단 설명 (동영상 공) https://www.youtube.com/watch?v=q-n2HNan9jo 더보기
AlphaGeometry: Solving olympiad geometry without human demonstrations https://www.nature.com/articles/s41586-023-06747-5 문제를 입력받아 다음과 같은 도메인으로 1차 처리 이후에 이를 바탕으로 이게 되는지 안되는지 계속 tree search후, 정답 조건식들을 만족하게 되면 정답을 맞추는 방식 trial and error를 계속 사용하되 그것이 llm을 사용하게 하는 것으로 오히려 강화학습에 가깝지 않나 싶음 결국 무한의 도메인을 더 좁은 도메인으로 좁히는 방식으로 푸는 것 하지만 무한한 trial and error도 풀지 못한 5개가 존재하는데, 이에 대해서 알려주었다면 더 좋겠음 좋은 발전이지만 아직 논리는 이해한다고 보긴 어려워보임 더보기
Mixtral of Experts https://arxiv.org/abs/2401.04088 Mixtral of Experts We introduce Mixtral 8x7B, a Sparse Mixture of Experts (SMoE) language model. Mixtral has the same architecture as Mistral 7B, with the difference that each layer is composed of 8 feedforward blocks (i.e. experts). For every token, at each layer, a router arxiv.org 간단하게 표현하면 x개의 모델이 존재하며 앞에 FFN을 추가해서 그중 높은 점수 2개를 결합하여 사용하는 방식 Routing에 대한 인공지능을 .. 더보기