隨著BIBI最新歌曲「Bambi」爆紅，越來越多影片使用AI語音模擬不同歌手來演唱這首歌曲。 然而，隨著利用AI技術模仿其他歌手聲音來製作翻唱影片的興起，關於使用AI重製歌曲所衍生的倫理和法律問題也逐漸受到關注。
在YouTube上，由 AI 模擬 IU、朴明秀、白藝潾等人演唱「Bambi」的影片，每支都累積了數萬次觀看，引發熱議。 這些影片並非由歌手本人演唱，而是利用人工智慧技術，讓AI學習特定藝人的聲音後，再生成新的歌曲。
以下是一個使用 AI 模擬 IU 聲音演唱「Bambi 」的範例：
隨著AI人工智慧技術的進步，生成的翻唱影片聽起來越來越真實，就好像真的是歌手本人演唱一樣，在YouTube上更累積了數萬次的觀看次數。然而，一些藝人對於AI生成的翻唱歌曲與其聲音的相似度之高，感到不安與不適。
隨著科技進步，任何人都能輕易地使用AI音樂生成平台、網站甚至手機應用程式來創作AI翻唱歌曲。
韓國Trot歌手張允瀞在YouTube頻道上聆聽過這些AI翻唱歌曲後，評論說：“這有點嚴重了。聽了真的讓人毛骨悚然。我從未想過AI能夠唱歌，但如果可以做到的話，歌手們還需要親自錄音嗎？ 他們只要用AI複製我的聲音，用這種方式發行音樂，只需要支付相應的技術費用就可以了。」
喜劇演員朴明秀在聽到AI版本的自己唱「Bambi」後，也驚訝地表示：「怎麼會這麼像 (我的聲音)？ 這首歌 (Bambi) 我根本沒唱過啊！ 沒想到會這麼像 (我的歌聲)， 藝人以後該怎麼辦？」
根據現行法律，未經原始聲音擁有者的許可而創作AI翻唱歌曲，可能會面臨處罰。文化體育觀光部強調，為避免侵犯版權，在使用AI翻唱歌曲時需要事先取得授權。
隨著AI技術的進步，人們也指出相關法規的制定刻不容緩。去年 12 月，歐盟 (European Union) 率先通過全球首例AI生成內容強制水印化法案。
在韓國，為了防止AI衍生的問題，國會曾提出了一項法案，要求在使用AI創作內容時需強制標註，但該法案尚未獲得通過。
文化體育觀光部和韓國著作權委員會今年將針對「人工智慧與著作權」議題，蒐集民意後公布相關政策方針。
另一方面，Kakao Brain旗下負責影像生成的模型「Karlo」於3月13日宣布導入水印功能，以期落實人工智慧(AI) 的負責任使用，防止惡意深度偽造 (Deepfake) 等虛假內容散播。
