2021년 08월 30일 TIL
오늘은 특화 프로젝트에 대비하여 T 아카데미의 하둡 강좌를 수강했고, WordCount 예제를 따라해보았다.
여전히 느껴지는 감상을, 이정도로 가벼운 강의를 듣고 뭔가를 만들 수 있을까 하는 점이었다.
그리고 특화 프로젝트 기획을 어떤 식으로 잡아볼까 브레인 스토밍을 진행했고, 아래의 기획안들과 데이터 수집처들에 대해 조사했다.
유튜브 제목 분석을 통한 카테고리 별 분석
- 각 카테고리 별 유튜브 제목 분석을 통한 분석 자료 제공, 인기 급상승 카테고리에서 각 장르 별 컨텐츠가 차지하는 비율
참고할만한 사이트 : -
우려되는 점 :
대형 커뮤니티 게시글 분석을 통한 트렌드 분석 /
- 대형 커뮤니티 5~6 곳의 게시글들을 분석하여 가장 많이 등장한 키워드 등을 추출, 트렌드를 분석
참고할만한 사이트 : https://blackkiwi.net/
우려되는 점
- 폐쇄성이 짙은(회원가입에 허들이 있는) 사이트의 경우 게시글에 접근하는 모니터링용 계정의 필요성
- 대부분의 인터넷 저작물의 경우 Creative Commons License(CCL) 관련 문제 발생 가능성 있음
중고가 모니터링 서비스 /
- 중고 거래 사이트를 모니터링하며 적정 판매 중고가 & 적정 구매 중고가를 제안하고, 사려는 물품의 최저가 물품이 어떤 중고 마켓에 있는지 제안하는 서비스
참고할만한 사이트 : 네이버 가격비교 시스템
우려되는 점
- 법적 문제가 없는지 확인 절차 필요
자전거 사용량 분석에 따른 자전거 배치 전략 수립 서비스 -
- 공공데이터 API의 자전거 사용량 데이터를 통한 지역별 자전거 사용량 확보 및 그에 따른 자전거 배치 전략 수립
참고할만한 사이트 : -
우려되는 점
- -
SNS 데이터 수집 및 분석 + @
- SNS 들의 Open API를 통한 데이터 수집 및 수집한 데이터를 분석하여 실시간으로 가장 핫한 트렌드 키워드를 제공하는 서비스
참고할만한 사이트 : -
우려되는 점
- 작업 기간 내에 마무리 가능할까 우려됩니다.
- 데이터를 수집하기 위한 SNS 대상에 대해서도 고민점이 있습니다.
헌혈 정보 제공 수집
참고할만한 사이트 : -
우려되는 점
- 작업 기간 내에 마무리 가능할까 우려됩니다.
- 과연 사용자들에게 의미 있는 정보를 제공할 수 있을지?
화재 등 재해상황 모니터링 데이터 수집 및 분석
참고할만한 사이트 :
WSN 기반 화재 상황 모니터링을 통한 대피 경로 도출 알고리즘
우려되는 점
- 화재 상황 데이터를 어떻게 주고 받을 것인지?
- 재해 상황의 모니터링이 가능할 것인가? 어떻게 처리하지?
- 기술적 부채가 매우 심해보임
반려동물 관련 정보 제공 및 분석 서비스
참고할만한 사이트 : https://www.petraschu.com/
우려되는 점
- 동물병원 가격 정보 데이터를 어떻게 얻을 것인가?
- 빅데이터라고 할 수 있을지?
주식 정보 제공 및 분석 서비스
참고할만한 사이트 : 빗썸, 업비트 등
우려되는 점
- 주식 같은 실시간 데이터를 계속 api 요청해서 가져오는 것인가?
- 매력적인 주제이려나, 이미 많은 곳에서 서비스 중이라 창의성이?
알고리즘 문제 출제 경향 분석
- 기타 알고리즘 사이트에서 기업들의 최근 알고리즘 유형 출제 분류에 대한 분석 및 데이터 시각화
참고할만한 사이트 :
우려되는 점
- 알고리즘 문제의 분류를 어떠한 형태로 할 것인가?
데이터 수집은 어디서?
-
한국예탁결제원
-
CareerNet OpenApi
- 교육, 커리어 관련 정보는 여기서 찾아봐도 될 듯?
[Open API 센터 진로정보망 커리어넷](https://www.career.go.kr/cnet/front/openapi/openApiMainCenter.do)
- 네이버 검색어 Api
-
영화 관련 API(영화진흥위원회 오픈 API)
-
쇼핑 관련 API(Auction API)
-
카카오 OpenAPI
-
11번가 OpenAPI
-
SK TMAP API
[Guide T MAP API](https://tmapapi.sktelecom.com/main.html) -
Dart 전자공시 오픈 API
[전자공시 OPENDART 시스템 오픈API 소개 오픈API 소개](https://opendart.fss.or.kr/intro/main.do) -
youtube analytics API
-
Finnhub
Finnhub - Free realtime APIs for stock, forex and cryptocurrency.
-
AIHub
[홈 AI 허브](https://aihub.or.kr/) -
bigdata-environment
-
서울시 교통정보
-
국립중앙도서관