포스트 크롤링
원래 파이썬으로 하려고 하였으나, js
cheerio
라이브러리를 통해서 크롤링 해올 수 있었습니다.1. 현재 진행상황
vlog trand 부분 크롤링 & json으로 응답
express를 사용해, json으로 응답 처리한 결과입니다.
[ { "title": "2022 상반기 프론트엔드 개발 취업 회고", "description": "2022 상반기에 지원을 하면서 느꼈던 것들을 정리하고, 신입으로 프론트엔드 개발을 취업을 준비하시는 분들에게 도움이 되길 바라며 글을 작성합니다. ✍️", "link": "https://velog.io/@hustle-dev/2022-상반기-프론트엔드-개발-취업-회고", "image": "https://velog.velcdn.com/images/hustle-dev/post/01a0734b-211f-4d6c-884d-c2ff1850ecc4/image.png" }, { "title": "[번역] 모든 개발자가 알아야 하는 7가지 ES6 스프레드 연산자 트릭", "description": "더 적게 쓰고 더 많은 걸 할 수 있게 해주는 7가지 ES6 트릭", "link": "https://velog.io/@jonghunbok/번역-모든-개발자가-알아야-하는-7가지-ES6-스프레드-연산자-트릭", "image": "https://velog.velcdn.com/images/jonghunbok/post/685a5b64-946f-4c47-b7a0-2d1e0898fedb/image.png" }, { "title": "쿠키, 세션, 토큰(JWT) 몰라도 괜찮겠어?", "description": "깔끔하게 정리했으니 몇 분만 투자해서 이번 기회에 바로 알고 가기 😀 ", "link": "https://velog.io/@whitebear/쿠키-세션-토큰JWT-확실히-알고-가기", "image": "https://velog.velcdn.com/images/whitebear/post/a7dd3a49-f0fb-47e0-8865-f5c4847344df/image.jpeg" }, { "title": "(번역) 이미지 최적화에 대한 명확한 가이드", "description": "이미지 최적화란 좋은 품질의 이미지를 제공하는 동시에 가능한 가장 작은 크기를 유지하는 과정입니다. 즉, 이미지를 최적화하면 최상의 형식, 크기, 해상도로 이미지를 만들고 표시하여 사용자 참여를 높일 수 있습니다. ", "link": "https://velog.io/@sehyunny/the-definitive-guide-to-image-optimization", "image": "https://velog.velcdn.com/images/sehyunny/post/7d629018-b80d-4aeb-9278-ca55d6b4cb5e/image.png" }, { "title": "DOM(Document Object Model)에 대하여", "description": "부디 모래성을 쌓아올리지 않길 바라며..", "link": "https://velog.io/@thyoondev/DOMDocument-Object-Model에-대하여", "image": "https://velog.velcdn.com/images/thyoondev/post/87375727-b29b-4603-853e-9141239d0250/image.jpg" }, { "title": "1byte가 4bit인거 누가 모름 ㅋㅋㅋ", "description": "내 4bit는 8bit를 깨부숴!!", "link": "https://velog.io/@juunini/1byte가-4bit인거-누가-모름-ㅋㅋㅋ", "image": "https://velog.velcdn.com/images/juunini/post/7b8a6610-7586-4ea7-b92e-14a26bc17204/image.png" }, { "title": "React 디자인 패턴에 대한 고민", "description": "'테오의 프론트엔드' 오픈채팅방에서 시작된 글", "link": "https://velog.io/@sonwanseo/React-디자인-패턴에-대한-고민", "image": "https://velog.velcdn.com/images/sonwanseo/post/414b2160-1bb9-4550-b0a5-3180b8e6e090/image.jpg" }, { "title": "미라클모닝 한달 후기☀️", "description": "네! 제가 한 달 동안 6시에 일어나봤는데 말이죠,,,", "link": "https://velog.io/@imjjw1004/miracle-morning", "image": "https://velog.velcdn.com/images/imjjw1004/post/a9b89230-2eeb-4dbb-8cbe-504101339bb8/image.jpg" }, { "title": "TCP vs UDP", "description": "네트워크를 구성하는 OSI 7계층 중, 4계층에 속하는 전송 계층에서 사용되는 프로토콜이다.전송 계층은 송신자와 수신자를 연결하는 통신 서비스를 제공하며 즉, 데이터의 전달을 담당하는 계층이다.전송 계층에서 데이터를 보내기 위해 사용되는 두 프로토콜이 TCP와 UDP다...", "link": "https://velog.io/@tnehd1998/TCP-vs-UDP", "image": "https://velog.velcdn.com/images/tnehd1998/post/adccbaf2-0ca7-4ccd-afac-8648e48e69b7/image.png" }, { "title": "객체 지향 설계 5원칙 - SOLID", "description": "객체 지향 설계 5원칙 SOLID에 대해 알아보자", "link": "https://velog.io/@juhwan9408/객체-지향-설계-5원칙-SOLID", "image": "https://velog.velcdn.com/images/juhwan9408/post/04c151ef-bd66-42b2-bf66-04e92d3f3496/image.png" }, { "title": "(번역) 리액트 폼 성능 개선", "description": "폼은 웹에서 큰 부분을 차지합니다. 사용자가 백엔드 데이터를 변경하기 위해 수행하는 모든 상호 작용은 `form`을 사용해야 합니다. 어떤 폼들은 간단하지만 현실에서는 빠르게 복잡해집니다.", "link": "https://velog.io/@superlipbalm/improve-the-performance-of-your-react-forms", "image": "https://velog.velcdn.com/images/superlipbalm/post/346489fd-ab61-4bd1-8cf8-9826e1391e9e/image.png" }, { "title": "함수명을 내맘대로 짓는게 아니라고요..?", "description": "트위터에서 재미있는 글을 하나 보게 되었다.그 글에서 굉장히 인상깊은 말이 있었는데,\"Code is read more than written\"직역하자면 코드는 쓰여지는 것보다 더 많이 읽힌다 라는 뜻이다.작동이나 성능에만 신경쓸게 아니라 향후 이 코드를 다시 만지게 될...", "link": "https://velog.io/@taemin_gimotti/함수명을-내맘대로-짓는게-아니라고요" }, { "title": "코무 컨퍼런스 발표 자료: 지상 최강의 개발자가 개발자로 살아가는 방법", "description": "💡 2022년 5월 27일 [커리어패스와 무관합니다만, X 마켓컬리] 밋업에서 발표했던 자료입니다.", "link": "https://velog.io/@juunini/코무-컨퍼런스-발표-자료-지상-최강의-개발자가-개발자로-살아가는-방법-nh4orkht", "image": "https://velog.velcdn.com/images/juunini/post/b5b34140-0146-4e0a-b261-862ea6c8383b/image.png" }, { "title": "자바 \"직렬화\" 확실히 알고 가기", "description": "\b매번 대충 보고 지나쳤던 직렬화, 이제는 알고 가야지", "link": "https://velog.io/@whitebear/자바-직렬화-확실히-알고-가기", "image": "https://velog.velcdn.com/images/whitebear/post/f441979a-759e-4b53-a64a-3ff2fbb2629e/image.gif" }, { "title": "취준생들의 테오의 스프린트: 오전반 회고", "description": "\n프롤로그\n> 취준생들은 시간이 여유가 있음에도 제대로 된 팀 프로젝트 경험을 하기가 더 어렵다.\n\n상대적으로 취준생분들은 시간과 열정이 더 많지만 협업을 경험하기가 쉽지 않다고 늘 생각을 해왔습니다. 그리고 많은 분들이 이러한 생각에 공감을 하고 있다고 생각했습니다....", "link": "https://velog.io/@teo/google-sprint-8", "image": "https://velog.velcdn.com/images/teo/post/9a3040ba-c3c3-493d-a085-848a8a92e3c1/image.png" }, { "title": "왜 우리는 지금 MSA구조로 변경해야하는가?", "description": "제목과 마찬가지로 우리는 왜? MSA를 써야할까?최근 회사에서 서비스를 MSA 구조로 바꾼다는 말을 듣고 급하게 MSA 공부를 시작을 했다.구글링해서 기술적인 부분을 알려주는 레퍼런스들은 많고 많다. 그 중에는 기술에 대해서만 기술하는 블로그가 있고, 왜 우리는 MSA...", "link": "https://velog.io/@pk3669/왜-우리는-지금-MSA구조로-변경해야하는가", "image": "https://velog.velcdn.com/images/pk3669/post/15ac27a8-b325-4000-b37a-1d62c0297d70/image.png" }, { "title": "05. Semantic HTML", "description": "W3C에 따르면 시맨틱 웹을 사용하면 애플리케이션, 기업 및 커뮤니티에서 데이터를 공유하고 재사용할 수 있다.", "link": "https://velog.io/@jiseung/what-is-semantic-html", "image": "https://velog.velcdn.com/images/jiseung/post/34b2adf4-f2e3-47e6-867a-302a4f9d80ad/image.png" }, { "title": "내 자바스크립트가 이렇게 귀여울 리가 없어 #1 Hello world", "description": "내-자바스크립트가-이렇게-귀여울-리가-없어 console.log편 [1]", "link": "https://velog.io/@gwongibeom/내-자바스크립트가-이렇게-귀여울-리가-없어-1-Hello-world", "image": "https://velog.velcdn.com/images/gwongibeom/post/114e49a6-5281-44c0-8062-bf1279c8d5cc/image.png" }, { "title": "뉴비입니다. 반갑습ㄴ다", "description": "ㅇㄱㄹㅇ 개발자분들만 계시는 건가요?흠좀무....!업로드중..", "link": "https://velog.io/@insunnnia/뉴비입니다.-반갑습ㄴ다", "image": "https://velog.velcdn.com/images/insunnnia/post/a073907f-21b5-4ce8-a102-2eca5a1804e3/image.JPG" }, { "title": "fullpage 구현하기(with css)", "description": "스크롤을 내렸을 때 다음 화면 또는 이전 화면으로 바로 전환되는 기능을 구현했다.처음에는 fullpage 라이브러리를 사용하여 구현했었는데 ver.3부터는 유로여서 라이선스 에러가...😭이 에러를 어떻게 잡을까... 이 방법 저 방법 다 써봤지만 사라지지않아!!", "link": "https://velog.io/@yjlim0428/fullpage-구현하기with-css", "image": "https://velog.velcdn.com/images/yjlim0428/post/12b46128-6023-459f-8a44-504d93e6272b/image.png" }, { "title": "간단하게 적는 스타트업 4개월 회고", "description": "5개월 정도 굴러봤다 스타트업.", "link": "https://velog.io/@xonic789/간단하게-적는-스타트업-4개월-회고", "image": "https://velog.velcdn.com/images/xonic789/post/6fe8e534-5a58-4bb9-9ef3-5e1127c66eb0/image.gif" }, { "title": "테오의 스프린트 오전반 회고", "description": "유감스럽지만 개인적으로 너무 힘든 협업이었고 협업 이렇게만 하지 않으면된다! 라는 큰 교훈을 얻은 스프린트 였기 때문에 회고를 정리 하지 않을 수 없었다.\n", "link": "https://velog.io/@eamon3481/테오의-스프린트-오전반-회고", "image": "https://velog.velcdn.com/images/eamon3481/post/d55f3d3e-dc7f-4a3c-8479-de8752dada69/image.png" }, { "title": "남다른 람다 정리", "description": "(남다르게 정리하고자 노력한) 남다른 람다 정리!! with Java ☕️", "link": "https://velog.io/@snack655/남다른-람다-정리", "image": "https://velog.velcdn.com/images/snack655/post/66553815-9c59-4e2e-8f55-43da85642217/image.png" }, { "title": "헤렌 개발자 인턴 회고", "description": "드..들어와..구..경..ㅎrl..줘..", "link": "https://velog.io/@rxxdo/헤렌-개발자-인턴-회고", "image": "https://velog.velcdn.com/images/rxxdo/post/75350847-b782-4d6f-8595-65941d04debf/image.gif" } ] // 20220603132952 // http://localhost:3000/ [ { "title": "2022 상반기 프론트엔드 개발 취업 회고", "description": "2022 상반기에 지원을 하면서 느꼈던 것들을 정리하고, 신입으로 프론트엔드 개발을 취업을 준비하시는 분들에게 도움이 되길 바라며 글을 작성합니다. ✍️", "link": "https://velog.io/@hustle-dev/2022-상반기-프론트엔드-개발-취업-회고", "image": "https://velog.velcdn.com/images/hustle-dev/post/01a0734b-211f-4d6c-884d-c2ff1850ecc4/image.png" }, { "title": "[번역] 모든 개발자가 알아야 하는 7가지 ES6 스프레드 연산자 트릭", "description": "더 적게 쓰고 더 많은 걸 할 수 있게 해주는 7가지 ES6 트릭", "link": "https://velog.io/@jonghunbok/번역-모든-개발자가-알아야-하는-7가지-ES6-스프레드-연산자-트릭", "image": "https://velog.velcdn.com/images/jonghunbok/post/685a5b64-946f-4c47-b7a0-2d1e0898fedb/image.png" }, { "title": "쿠키, 세션, 토큰(JWT) 몰라도 괜찮겠어?", "description": "깔끔하게 정리했으니 몇 분만 투자해서 이번 기회에 바로 알고 가기 😀 ", "link": "https://velog.io/@whitebear/쿠키-세션-토큰JWT-확실히-알고-가기", "image": "https://velog.velcdn.com/images/whitebear/post/a7dd3a49-f0fb-47e0-8865-f5c4847344df/image.jpeg" }, { "title": "(번역) 이미지 최적화에 대한 명확한 가이드", "description": "이미지 최적화란 좋은 품질의 이미지를 제공하는 동시에 가능한 가장 작은 크기를 유지하는 과정입니다. 즉, 이미지를 최적화하면 최상의 형식, 크기, 해상도로 이미지를 만들고 표시하여 사용자 참여를 높일 수 있습니다. ", "link": "https://velog.io/@sehyunny/the-definitive-guide-to-image-optimization", "image": "https://velog.velcdn.com/images/sehyunny/post/7d629018-b80d-4aeb-9278-ca55d6b4cb5e/image.png" }, { "title": "DOM(Document Object Model)에 대하여", "description": "부디 모래성을 쌓아올리지 않길 바라며..", "link": "https://velog.io/@thyoondev/DOMDocument-Object-Model에-대하여", "image": "https://velog.velcdn.com/images/thyoondev/post/87375727-b29b-4603-853e-9141239d0250/image.jpg" }, { "title": "1byte가 4bit인거 누가 모름 ㅋㅋㅋ", "description": "내 4bit는 8bit를 깨부숴!!", "link": "https://velog.io/@juunini/1byte가-4bit인거-누가-모름-ㅋㅋㅋ", "image": "https://velog.velcdn.com/images/juunini/post/7b8a6610-7586-4ea7-b92e-14a26bc17204/image.png" }, { "title": "React 디자인 패턴에 대한 고민", "description": "'테오의 프론트엔드' 오픈채팅방에서 시작된 글", "link": "https://velog.io/@sonwanseo/React-디자인-패턴에-대한-고민", "image": "https://velog.velcdn.com/images/sonwanseo/post/414b2160-1bb9-4550-b0a5-3180b8e6e090/image.jpg" }, { "title": "미라클모닝 한달 후기☀️", "description": "네! 제가 한 달 동안 6시에 일어나봤는데 말이죠,,,", "link": "https://velog.io/@imjjw1004/miracle-morning", "image": "https://velog.velcdn.com/images/imjjw1004/post/a9b89230-2eeb-4dbb-8cbe-504101339bb8/image.jpg" }, { "title": "TCP vs UDP", "description": "네트워크를 구성하는 OSI 7계층 중, 4계층에 속하는 전송 계층에서 사용되는 프로토콜이다.전송 계층은 송신자와 수신자를 연결하는 통신 서비스를 제공하며 즉, 데이터의 전달을 담당하는 계층이다.전송 계층에서 데이터를 보내기 위해 사용되는 두 프로토콜이 TCP와 UDP다...", "link": "https://velog.io/@tnehd1998/TCP-vs-UDP", "image": "https://velog.velcdn.com/images/tnehd1998/post/adccbaf2-0ca7-4ccd-afac-8648e48e69b7/image.png" }, { "title": "객체 지향 설계 5원칙 - SOLID", "description": "객체 지향 설계 5원칙 SOLID에 대해 알아보자", "link": "https://velog.io/@juhwan9408/객체-지향-설계-5원칙-SOLID", "image": "https://velog.velcdn.com/images/juhwan9408/post/04c151ef-bd66-42b2-bf66-04e92d3f3496/image.png"
2. 앞으로 해야할 것들
크롤링
여러 소스들 Combine
포스트간 정렬 처리
Batch 스케줄링
서버 배포
3. repo
geeknews
오늘 오프님한테 여쭈어봤습니다.

사실.. Rss가 뭔지 모르겠음..ㅎ
보니까 사이트맵 비슷해보이긴 하는데..ㅋ
알아보니 여기에서 가져오는 것 같음!
요청사항
주말간에 크롤링에 적합한 기술 블로그라던지 소스가 있으면 말씀해주세요!
논의 해봐야 할 것들
추가적인 구현사항 고민
Rss
어떤 서비스가 Rss를 지원하는지?
Serveless
Node server