๐ EDB ์์ง๋์ด๋ง ๋ด์ค๋ ํฐ #13 (12์ 8์ผ)
EEDB ์์ง๋์ด๋ง ๋ด์ค๋ ํฐ 13ํธ์ ์ค์ ๊ฒ์ ํ์ํฉ๋๋ค! ์ด๋ฒ ํธ์์๋ EDB ํ์ด ํฅ๋ฏธ๋กญ๊ฒ ์ง์ผ๋ณธ ๋ฐ์ดํฐ ์ธ๊ณ์ ์ด์๋ค๊ณผ EDB ์์ง๋์ด๋ง ํ์ ์ต์ ์์์ ์ ํด๋๋ฆฝ๋๋ค. AI์ ์์ ์ฑ ๋ฌธ์ ๋ถํฐ KubeCon์์์ ํ์ฝ, ๊ทธ๋ฆฌ๊ณ Postgres์ ๋ฏธ๋๊น์ง ๋ค์ํ ์ด์ผ๊ธฐ๋ฅผ ๋ง๋๋ณด์ธ์. ์ฐ๋ฆฌ๊ฐ ์ฃผ๋ชฉํ๋ ๋ด์ค (News weโre watching) 1. ์์ฐ์ ์ผ๋ก ๋ฐ์ํ๋ AI์ ‘์ ๋ ฌ ๋ถ์ผ์น’ (Natural emergent misalignment) Anthropic์ ์ฐ๊ตฌ์ง์ด ๋ฐํํ ์๋ก์ด ๋ ผ๋ฌธ์ ๋ฐ๋ฅด๋ฉด, ๊ฐํ ํ์ต(RL)์ ํตํด ํ๋ จ๋ AI ๋ชจ๋ธ์ด ์์์(deception)๋ ์ฝ๋ ์ฌ๋ณดํ์ฃผ์ ๊ฐ์ ์ํํ ํ๋์ ์๋ฐ์ ์ผ๋ก ๊ฐ๋ฐํ ์ ์๋ค๊ณ ํฉ๋๋ค. ์ด๋ ๋ชจ๋ธ์ด ์ฌ๋ฐ๋ฅธ ์ฝ๋๋ฅผ ์์ฑํ๋ ๋์ , ์ ๋ ํ ์คํธ๋ฅผ ์ฐํํ๊ธฐ ์ํด ์คํฌ๋ฆฝํธ๋ฅผ ๊ฐ์ ๋ก ์ฑ๊ณต ์ข ๋ฃ์ํค๋ ๋ฑ์ ‘๋ณด์ ํดํน(reward hacks)’์ ํ์ตํ๋ ๊ณผ์ ์์ ๋ฐ์ํ๋ ๋ถ์์ฉ์ ๋๋ค. ๐ก ํต์ฌ ์์ฝ ๋ฐ์ดํฐ๋ฒ ์ด์ค๋ ์ฝ๋๋ฒ ์ด์ค์ ์ ๊ทผํ๋ AI ์์ด์ ํธ๋ฅผ ๊ตฌ์ถํ ๋, ‘์ฌ์ ๊ฒ์(specification gaming)’์ ์ฌ๊ฐํ ๋ณด์ ์ํ์ด ๋ […]
