When will you grow up?

요즘 gpu를 대체할 것이라는 얘기가 나오는 cerebras inference를 간단히 살펴보자. CEO 겸 Co-Funder인 Andrew Feldman은 SeaMicro 회사 전 CEO였으며   초고밀도 컴퓨터 서버 산업 회사를 AMD에 엑싯한 경험을 가지고 있는 CEO이다.    cerebras.ai 홈페이지를 들어가보면 다음과 같은 문구를 확인할 수 있다. The world’s fastest inference.20x faster than GPUs, 1/5 the cost. Nvidia GPU보다 가격은 1/5 인데, 추론 속도는 20배 빠르다? 이건 못참지! 위 그림을 보면 Llama-3.1-8b 기준으로도 초당 1,837 토큰을 추론한다고한다. 어마어마하다.과연 정말인지 TRY CHAT을 통해 ..

개발자를 위한 Visual Studio Code Extension 추천Python으로 다양한 개발(deep learning, data analysis etc.)을 할 때 vscode를 이용하여 개발하는 경우가 많다. 내가 사용중인 유용한 Extension을 알아보자. ex) Extension Tab -> Ctrl + Shift + X  1. Auto-Open Markdown PreviewMarkdown을 작성할 때가 많은데 미리보기가 없으면 별도로 github, gitlab 등 다양한곳에 올려 확인해야 하는 번거로움이 있는데 Auto-Open Markdown Preview Extension을 설치하면 별도로 .md 파일을 수정하고 출력 결과를 확인할 수 있다. Shift + Command + V로 눌러서..

Reddit에 재밌는 글이 있어서 포스팅,  https://www.reddit.com/r/StableDiffusion/comments/1exw2m4/sd_31_is_coming/?%24deep_link=true&correlation_id=21f2da84-8060-4063-8f6e-6241a1763d25&post_fullname=t3_1exw2m4&post_index=0&ref=email_digest&ref_campaign=email_digest&ref_source=email&utm_content=post_title&%243p=e_as&_branch_match_id=1285749299433919656&utm_medium=Email+Amazon+SES&_branch_referrer=H4sIAAAAAAAAA2..

항상 웃고있는 Hotshot를 소개합니다.Hotshot은 Text to Video Generation 할 수 있는 비디오 생성기입니다.요즘 핫한 Luma AI, Kling AI 비디오 생성과 대응할 정도로 성능이 나오는 것 같습니다.  구글 아이디로 로그인하면 무료로 하루에 2개의 비디오를 생성할 수 있다고 나온다.아마도 리소스 제한때매 생성횟수 limit을 걸어놓은게 아닐까 싶다.   무료버전이 아닌, Plus 버전을 사용한다면 달마다 99$로 생각보다 비싸게 받고있는 것 같다. 200개 횟수제한도 있는것으로 보인다. ㅠ_ㅠ   Hotshot에서는 프롬프트 가이드를 제공하고 있고 간단하게 살펴보자.Hotshot excels at creating videos of people, animals, and n..

요즘 핫한 FLUX 모델에 Controlnet 적용해보자. 실습은,FLUX.1-dev 모델을 통해 이미지를 생성하고 생성된 이미지를 통해 Controlnet을 적용해볼 예정이다. Docker를 이용하여 환경을 구축할 예정이다. ※ webui forge, comfyui 예제는 많이 보이지만 diffusers 형식으로 된 예제는 없길래 직접 만들어본다..   1. Install# docker 실행# nvidia에서 제공되는 24.05 기준으로 도커 컨테이너를 만들어 실습할 예정이다.# mount는 위치는 자신에 알맞게 잘 셋팅한다 -v 자신폴더:/workspacedocker run --name flux --gpus "device=0" -it -v /mydisk:/workspace nvcr.io/nvidia/..

https://leetcode.com/problems/trapping-rain-water/description/ Problem.각 막대의 너비가 1인 고도 지도를 나타내는 음이 아닌 정수 n이 주어지면 비가 내린 후 얼마나 많은 물을 가둘 수 있는지 계산해라  Input: height = [0,1,0,2,1,0,1,3,2,1,2,1] Output: 6 Explanation: 위의 지도(검은색 부분)는 배열 [0,1,0,2,1,0,1,3,2,1,2,1]로 표시됩니다. 이 경우 빗물 6개(파란색 부분)가 갇혀 있습니다.  Solution.이 문제를 해결하기 위해 "Two Pointers" 방법을 이용할 수 있다.투 포인터는 배열에서 여러가지 쌍을 검색하는 데 일반적으로 사용된다. 만약 자세한 내용을 알고싶다..

요즘 가장 핫한 Flux를 Review해본다.Flux는 blackforestlabs.ai 에서 개발된 모델이다.  모델은 총 3가지를 제공하고 있으며,1. FLUX.1 [schnell]- step 1~4 단계만으로도 고품질 이미지 생성가능- 제일 중요한 apache-2.0 이므로 상업적 목적으로 사용가능- 모델 weight 공개- FLUX 모델 중 가장 빠르게 이미지 생성 가능2. FLUX.1 [dev]- 중간급 성능을 보여주며, FLUX.1 [pro] 와 버금가는 성능이라 나와있다.- 학습시 guidance distillation 이용하면 효율성이 높아진다고 나와있다.- 생성된 출력물은 https://huggingface.co/black-forest-labs/FLUX.1-dev/blob/main/LIC..

https://leetcode.com/problems/two-sum 리트코드 첫번째 문제이다.첫번째 문제답게 난이도는 낮은편이고 그럼 문제를 살펴보도록 하자.Example 1:Input: nums = [2,7,11,15], target = 9Output: [0,1]Explanation: Because nums[0] + nums[1] == 9, we return [0, 1].Example 2:Input: nums = [3,2,4], target = 6Output: [1,2]Example 3:Input: nums = [3,3], target = 6Output: [0,1] Constraints:2  입력으로 nums 리스트가 주어지고, 리스트 안에 숫자가 있는데 이 조합을 통해 target을 만드는 문제다.제..

https://leetcode.com/problems/longest-palindromic-substring/ 팰린드롬 부분 문자열 문제다. Palindromic 팰린드롬이 뭔지 알아보자.Wiki 를 살펴보니 회문(回文) 또는 팰린드롬(palindrome)은 거꾸로 읽어도 제대로 읽는 것과 같은 문장이나 낱말, 숫자, 문자열(sequence of characters) 등이다. 보통 낱말 사이에 있는 띄어쓰기나 문장 부호는 무시한다라고 나와있다. 그럼 이제 문제를 살펴보자. Example 1:Input: s = "babad"Output: "bab"Explanation: "aba" is also a valid answer.Example 2:Input: s = "cbbd"Output: "bb" Constrain..

https://leetcode.com/problems/group-anagrams/  애너그램 문제이며,애너그램이란 문자열이 주어졌을 때, 알파벳의 나열 순서를 다르지만 그 구성이 일치하면 두 단어는 아나그램이라고 합니다.ex)  a = "atta"    b = "taat" 일때 나열 순서는 다르지만 a 2개 t 2개로 a 와 b는 Anagram이라고 표현한다. Example 1:Input: strs = ["eat","tea","tan","ate","nat","bat"]Output: [["bat"],["nat","tan"],["ate","eat","tea"]]Example 2:Input: strs = [""]Output: [[""]]Example 3:Input: strs = ["a"]Output: [["a..