728x90

AI(Artificial Intelligence)/Data Analysis 4

[Data Analysis] ๋ฐ์ดํ„ฐ ๋ถ„์„ ๊ณผ์ •, ์ „์ฒ˜๋ฆฌ์˜ ์ค‘์š”์„ฑ

๋ฐ์ดํ„ฐ ๋ถ„์„ ๊ณผ์ •(Data Analysis Process) 1. Goal Definition ๊ฐ๊ด€์ , ๊ตฌ์ฒด์ ์œผ๋กœ ๋ถ„์„ ๋Œ€์ƒ ์ •์˜(=๋ฌธ์ œ ์ •์˜) ํ•ด๋‹น ๋„๋ฉ”์ธ์— ๋Œ€ํ•œ ์ดํ•ด ํ•ด๋‹น ํ”„๋กœ์ ํŠธ์— ๋Œ€ํ•œ ์ดํ•ด 2. Data Searching & Collecting ๋ฌธ์ œ ์ •์˜ ํ›„ ํ•„์š”ํ•œ ๋ฐ์ดํ„ฐ ๊ฒ€์ƒ‰ ๋ฐ์ดํ„ฐ ์ˆ˜์ง‘ ๋ฐ ๋ฐ์ดํ„ฐ ํŒŒ์•… 3. Data Preparation ๋ฐ์ดํ„ฐ์˜ noise๋ฅผ ์ œ๊ฑฐํ•˜๊ณ  ์›ํ•˜๋Š” ํ˜•ํƒœ๋กœ ๋ฐ์ดํ„ฐ๋ฅผ ๋ณ€ํ™˜ํ•˜๋Š” Data preprocessing(๋ฐ์ดํ„ฐ ์ „์ฒ˜๋ฆฌ ๊ณผ์ •)ํฌํ•จ ์ตœ์ข… ๋ชจ๋ธ์„ ๋งŒ๋“ค๊ธฐ ์œ„ํ•œ ๋ฐ์ดํ„ฐ ์ค€๋น„ ๋‹จ๊ณ„ ๊ด€๋ จ ๋ฐ์ดํ„ฐ๋ผ๋ฆฌ ๊ด€๊ณ„ ์„ค์ • ๋ฐ ๋ฐ์ดํ„ฐ ์ดํ•ด, ๋ฐ์ดํ„ฐ ๋ณ‘ํ•ฉ 4. Modeling ์–ด๋–ป๊ฒŒ ๋ชจ๋ธ ์„ค๊ณ„ํ• ์ง€ ๊ตฌ์„ฑ R, Python ๋“ฑ ์ด์šฉํ•ด ๋จธ์‹ ๋Ÿฌ๋‹ ์•Œ๊ณ ๋ฆฌ์ฆ˜ ๋“ฑ ๋‹ค์–‘ํ•œ ์•Œ๊ณ ๋ฆฌ์ฆ˜ ์ ์šฉ 5. Evaluatio..

[์›นํฌ๋กค๋ง] Python์œผ๋กœ ์›น ํฌ๋กค๋ง, HTML ํŒŒ์‹ฑ, requests, BeautifulSoup ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ ์ด์šฉ

์›น ํฌ๋กค๋ง์œผ๋กœ href ํƒœ๊ทธ์˜ ๊ฐ’ ๊ฐ€์ ธ์˜ค๊ธฐ (HTML ํŒŒ์‹ฑ) import requests from bs4 import BeautifulSoup ftp.ensembl.org/pub/current_regulation/homo_sapiens/RegulatoryFeatureActivity/ Index of /pub/current_regulation/homo_sapiens/RegulatoryFeatureActivity/ ftp.ensembl.org ์ด๋ ‡๊ฒŒ ์ƒ๊ธด ์›น ํ˜•ํƒœ์—์„œ ๋ฐ์ดํ„ฐ ์ด๋ฆ„๋งŒ ๊ฐ€์ ธ์˜ค๋Š” ์›น ํฌ๋กค๋ง ์‹ค์Šต. 1. requests ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ๋ฅผ ์ด์šฉํ•ด url get ํ•˜๊ธฐ import requests from bs4 import BeautifulSoup res = requests.get('http://ftp.en..

[์ œ 26ํšŒ ๋ฐ์ดํ„ฐ๋ถ„์„ ์ค€์ „๋ฌธ๊ฐ€ ์ž๊ฒฉ๊ฒ€์ •] 20.08.29 ADsP ํ•ฉ๊ฒฉ ํ›„๊ธฐ

blog.naver.com/ahnty0122/222103415093 [์ œ 26ํšŒ ๋ฐ์ดํ„ฐ๋ถ„์„ ์ค€์ „๋ฌธ๊ฐ€ ์ž๊ฒฉ๊ฒ€์ •] 20.08.29 ADsP ํ•ฉ๊ฒฉ ํ›„๊ธฐ ADsP ์ผ์ฃผ์ผ ๊ณต๋ถ€ํ•˜๊ณ  ํ•ฉ๊ฒฉํ•˜๊ธฐ๋Œ€ํ•™๊ต 1ํ•™๋…„ ๋•Œ ์ ค ์žฌ๋ฐŒ๊ฒŒ ๋“ค์—ˆ๋˜ ๊ณผ๋ชฉ์ด ํ™•๋ฅ ๋ฐํ†ต๊ณ„ํ•™ .... ์ด์—ˆ๊ณ tmi... blog.naver.com

[SPARK] WINDOWS์— PySpark ์„ค์น˜

โ€ป python(version 3 ์ด์ƒ) ์„ค์น˜๋˜์—ˆ๋‹ค๋Š” ๊ฐ€์ • ํ•˜์— ์„ค์น˜ JAVA ์„ค์น˜ SPARK ์„ค์น˜ winutils ์„ค์น˜ pyspark ์„ค์น˜ ์„ค์น˜ ํ™•์ธ 1. JAVA ์„ค์น˜ SPARK 3.0.1์€ java 11์„ ์ง€์›ํ•˜๋ฏ€๋กœ ๋ฐ‘์˜ url์— ๋“ค์–ด๊ฐ€ ์ค‘๊ฐ„์˜ 11 JDK ๋‹ค์šด๋กœ๋“œ๋ฅผ ์„ ํƒ. ๊ทธ ์ „์— ์˜ค๋ผํด ๊ณ„์ • ๋งŒ๋“ค๊ธฐ ํ•„์ˆ˜ www.oracle.com/java/technologies/javase-downloads.html ์œˆ๋„์šฐ ๋ฒ„์ „ ํด๋ฆญ ํ›„ next, next ๋ˆ„๋ฅด๋ฉด์„œ ์„ค์น˜. ์ œ์–ดํŒ - ์‹œ์Šคํ…œ ๋ฐ ๋ณด์•ˆ - ์‹œ์Šคํ…œ ๋“ค์–ด๊ฐ€์„œ ๊ณ ๊ธ‰ ์‹œ์Šคํ…œ ์„ค์ •, ํ™˜๊ฒฝ ๋ณ€์ˆ˜ ํด๋ฆญ ํ™˜๊ฒฝ ๋ณ€์ˆ˜, ์‹œ์Šคํ…œ ๋ณ€์ˆ˜ ํŽธ์ง‘ ํ™˜๊ฒฝ ๋ณ€์ˆ˜ ํŽธ์ง‘ Path์— %JAVA_HOME%bin์ถ”๊ฐ€ JAVA_HOME ์‹œ์Šคํ…œ ๋ณ€์ˆ˜ ์ถ”๊ฐ€ C:\Program Files\Jav..

728x90