Em vários contextos aqui no Brasil isso pode ser uma piada (eu achei engraçado), mas em uns poucos contextos é bom não usar.

"Estou aprendendo português" (e siga em frente na conversa) "Comecei a aprender português não tem muito tempo" (e siga em frente na conversa) Também recomendo as dicas citadas antes. Só que não vejo necessidade de se desculpar por possíveis erros que você vai cometer. Se por um acaso você cometer algum erro que gere algum mal estar, aí sim, peça desculpas. Se você já disse que está aprendendo, quem está te ouvindo vai deduzir que seus erros são por esse motivo. Tem uma regra da oratória que diz que não se deve pedir desculpa no início de uma apresentação, pois demonstra falta de auto-confiança. Isso vai mudar como a platéia te encara. Baseado nessa dica, uma forma de você não é proficiente na língua é dizer "estou aprendendo", "ainda não falo bem", etc.