When will you grow up?

요즘 gpu를 대체할 것이라는 얘기가 나오는 cerebras inference를 간단히 살펴보자. CEO 겸 Co-Funder인 Andrew Feldman은 SeaMicro 회사 전 CEO였으며   초고밀도 컴퓨터 서버 산업 회사를 AMD에 엑싯한 경험을 가지고 있는 CEO이다.    cerebras.ai 홈페이지를 들어가보면 다음과 같은 문구를 확인할 수 있다. The world’s fastest inference.20x faster than GPUs, 1/5 the cost. Nvidia GPU보다 가격은 1/5 인데, 추론 속도는 20배 빠르다? 이건 못참지! 위 그림을 보면 Llama-3.1-8b 기준으로도 초당 1,837 토큰을 추론한다고한다. 어마어마하다.과연 정말인지 TRY CHAT을 통해 ..

Reddit에 재밌는 글이 있어서 포스팅,  https://www.reddit.com/r/StableDiffusion/comments/1exw2m4/sd_31_is_coming/?%24deep_link=true&correlation_id=21f2da84-8060-4063-8f6e-6241a1763d25&post_fullname=t3_1exw2m4&post_index=0&ref=email_digest&ref_campaign=email_digest&ref_source=email&utm_content=post_title&%243p=e_as&_branch_match_id=1285749299433919656&utm_medium=Email+Amazon+SES&_branch_referrer=H4sIAAAAAAAAA2..

항상 웃고있는 Hotshot를 소개합니다.Hotshot은 Text to Video Generation 할 수 있는 비디오 생성기입니다.요즘 핫한 Luma AI, Kling AI 비디오 생성과 대응할 정도로 성능이 나오는 것 같습니다.  구글 아이디로 로그인하면 무료로 하루에 2개의 비디오를 생성할 수 있다고 나온다.아마도 리소스 제한때매 생성횟수 limit을 걸어놓은게 아닐까 싶다.   무료버전이 아닌, Plus 버전을 사용한다면 달마다 99$로 생각보다 비싸게 받고있는 것 같다. 200개 횟수제한도 있는것으로 보인다. ㅠ_ㅠ   Hotshot에서는 프롬프트 가이드를 제공하고 있고 간단하게 살펴보자.Hotshot excels at creating videos of people, animals, and n..

요즘 가장 핫한 Flux를 Review해본다.Flux는 blackforestlabs.ai 에서 개발된 모델이다.  모델은 총 3가지를 제공하고 있으며,1. FLUX.1 [schnell]- step 1~4 단계만으로도 고품질 이미지 생성가능- 제일 중요한 apache-2.0 이므로 상업적 목적으로 사용가능- 모델 weight 공개- FLUX 모델 중 가장 빠르게 이미지 생성 가능2. FLUX.1 [dev]- 중간급 성능을 보여주며, FLUX.1 [pro] 와 버금가는 성능이라 나와있다.- 학습시 guidance distillation 이용하면 효율성이 높아진다고 나와있다.- 생성된 출력물은 https://huggingface.co/black-forest-labs/FLUX.1-dev/blob/main/LIC..