본문 바로가기

일상생활

[Kaggle] HMS - Harmful Brain Activity Classification 헝가리 출장을 갔다오는 바람에 제대로 참여하지 못한 ...https://www.kaggle.com/competitions/hms-harmful-brain-activity-classification/leaderboard?sort=published HMS - Harmful Brain Activity Classification | Kaggle www.kaggle.com모두가 방법은 비슷할 것 같았는데, 다 다른 방식인게 특이했다.내가 생각했던 방법과 가장 유사한 방법https://www.kaggle.com/competitions/hms-harmful-brain-activity-classification/discussion/492240 HMS - Harmful Brain Activity Classificatio.. 더보기
[안될공학 - IT 테크 신기술] 앞으로 AI 가 가져올 위험은 딥페이크보다 더 할 수 있습니다 (더밸류컨설팅 이병주 대표 4부) 좋은 사진만 나오면 결국 벡터가 확증편향되니까 앞으로 오히려 ai가 안좋아질 수 있다.좋은 데이터는 백터가 여러 방향으로 퍼지는게 좋은 데이터인공지능이 인공지능에 대한 결과를 학습을 하면 좋은 결과를 얻을 가능성 DOWN 더보기
트랜스포머 인코더 강의 https://www.youtube.com/watch?v=xrq2yN4K_-M 나쁘진 않지만, 초심자와 중심자 사이 난이도 같은 느낌? 더보기
Leave No Context Behind: Efficient Infinite Context Transformers with Infini attention https://www.youtube.com/watch?v=r_UBBfTPcF0https://arxiv.org/abs/2404.07143 Leave No Context Behind: Efficient Infinite Context Transformers with Infini-attentionThis work introduces an efficient method to scale Transformer-based Large Language Models (LLMs) to infinitely long inputs with bounded memory and computation. A key component in our proposed approach is a new attention technique dubbed.. 더보기
Apple Shocks Again: Introducing OpenELM Open Source AI Model That Changes Everything! https://www.youtube.com/watch?v=huH0fKmw0H0 Rmsnorm 사용, swiGLU 사용, Grouped query attention LR 공개 optimizer 공개 weight decay 공개 rmsnorm 사용 - 정확하지만 느림https://arxiv.org/abs/2404.14619 OpenELM: An Efficient Language Model Family with Open-source Training and Inference FrameworkThe reproducibility and transparency of large language models are crucial for advancing open research, ensuring the trustwort.. 더보기
Beyond A*: Better Planning with Transformers via Search Dynamics Bootstrapping (Searchformer) https://www.youtube.com/watch?v=PW4JiJ-WaY4https://arxiv.org/abs/2402.14083 Beyond A*: Better Planning with Transformers via Search Dynamics BootstrappingWhile Transformers have enabled tremendous progress in various application settings, such architectures still lag behind traditional symbolic planners for solving complex decision making tasks. In this work, we demonstrate how to train Transfor.. 더보기
Anthropic's Claude 3는 자의식이 있는가? https://www.youtube.com/watch?v=GBOE9fVVVSM& 결론: 없다실험결과를 보면 그냥 소설 잘쓰는 AI 1이다. 끝 더보기
4월 4주차 AI 모음 참조 https://www.youtube.com/watch?v=ZcoOW8nqVP8 https://www.youtube.com/watch?v=Crd1SR9ibRI 허깅 페이스가 해킹된 사건 사건: 인기 있는 AI 모델 플랫폼인 허깅 페이스에서 보안 침해가 발생하여 인프라 취약점이 드러났습니다. 악용: Wiz 리서치 팀은 임의 코드를 실행할 수 있는 악의적인 모델을 업로드하여 보안 허점을 노출시켰습니다. 허깅 페이스의 대응: 허깅 페이스는 새로운 형식인 "세이프 텐서(Safe Tensors)"를 도입하여 모델 로딩 시 안전하지 않은 코드를 실행할 수 없게 했습니다. 보안 조치 세이프 텐서: 이 새로운 형식은 모델이 임의 코드를 실행할 수 없도록 하여 보안을 강화합니다. 모델 스캐닝: 허깅 페이스는 잠재적으.. 더보기