"S'y frotter" means indeed "courir le risque." "S'y pique" refers to the potential bad consequences of our actions and the risk we take. So the expression means that one must be ready to bear the consequences of the risks he or she takes. To help you visualise, think of a cactus, and think of someone trying to rub his arm against it. He is taking a risk, but he shouldn't be surprised if he gets poked and hurt by the thorns. "Il n'y a pas péril en la demeure" (not "démeure") means that there is no harm in not acting. There is apparently another version of the idiom, "il y a péril en la demeure," which means the opposite (inaction can be harmful).

Qui s'y frotte, s'y* pique. On dit généralement ça à propos d'une personne, d'un lieu, etc., qu'il faut éviter d'aller taquiner, parce que la personne (ou éventuellement l'institution etc.) réagira violemment ou/et efficacement. L'expression évoque l'image d'un porc-épic (ou hérisson), qu'il faut éviter d'aller taquiner. Une expression un peu similaire (quoique pas complètement) est "se jeter dans la gueule du loup" (qui veut dire se lancer dans une entreprise suicidaire, mener une "suicide squad", aller se frotter à une personne ou une institution très très dangereuse).