본문 바로가기

개인용

다음 에러날때 Fatal Python error: init_import_site: Failed to import the site module Python runtime state: initialized Traceback (most recent call last): File "C:\Users\User\AppData\Local\Programs\Python\Python310\lib\site.py", line 617, in main() File "C:\Users\User\AppData\Local\Programs\Python\Python310\lib\site.py", line 604, in main known_paths = addsitepackages(known_paths) File "C:\Users\User\AppData\L.. 더보기
LLM 이용한 랭체인 노코드툴 https://www.youtube.com/watch?v=ZX5zYXCjH8s comfyui와 비슷한 포멧들이 많이 나오는 것 같네 더보기
240124 알파지오메트리 - 오픈소스 - 합성 데이터로 하는 것 모르면 모른다 ai runway ml stable ai 파라미터 1.6B이네 더보기
LORA (Low-Rank Adaptation) vs Adapter LORA (Low-Rank Adaptation) - attention에 추가 네트워크 삽입 Adapter - FFN에 추가? Adapter와 LORA의 주요 차이점은 다음과 같습니다: 구조적 차이: Adapter는 모델의 각 레이어 사이에 추가적인 신경망 레이어를 삽입하여 모델을 조정하는 반면, LORA는 기존 레이어의 가중치를 직접 조정합니다. LORA는 낮은 차원의 행렬을 이용해 기존의 가중치에 변화를 주어 적응시키는 방식입니다. 파라미터 증가: Adapter는 추가 레이어를 통해 파라미터 수가 증가하는 반면, LORA는 매우 적은 수의 추가 파라미터로 기존 모델을 조정합니다. 이는 특히 파라미터 수를 최소화하면서도 효과적인 학습을 원하는 경우 유리할 수 있습니다. 유연성과 특화: Adapter는 다.. 더보기
UBC Ovarian Cancer Subtype Classification and Outlier Detection (UBC-OCEAN) NystromAttention은 이 문제를 해결하기 위해 'Nystrom 방법'을 적용합니다. Nystrom 방법은 행렬의 근사치를 계산하는 데 사용되는 수학적 기법으로, 원래 행렬의 작은 부분집합을 사용하여 전체 행렬을 근사하는 방식입니다. 이를 통해 NystromAttention은 전체 입력 데이터를 사용하지 않고도 어텐션 매트릭스의 근사치를 효율적으로 계산할 수 있습니다. 이 접근 방식은 계산 효율성을 크게 향상시키면서도 모델의 성능을 유지하거나 심지어 개선할 수 있는 잠재력을 가지고 있습니다. 따라서, NystromAttention은 자연어 처리, 이미지 분석 등 다양한 분야에서 트랜스포머 모델을 더 효율적으로 활용할 수 있는 방법으로 주목받고 있습니다. NystromAttention 사용 Vis.. 더보기
Identifying and Eliminating CASM in Generative ML Training Data and Models 보호되어 있는 글입니다. 더보기
이미지 사이트들 https://paperswithcode.com/sota/image-classification-on-imagenet Papers with Code - ImageNet Benchmark (Image Classification) The current state-of-the-art on ImageNet is OmniVec. See a full comparison of 950 papers with code. paperswithcode.com https://paperswithcode.com/paper/swin-transformer-v2-scaling-up-capacity-and Papers with Code - Swin Transformer V2: Scaling Up Capacity and Resolution #.. 더보기
chatdev 설치법 https://natural20.com/chatdev/ 더보기