Die Psyche ist konventioneller Gegenstand der Psychologie. Das psychische System dagegen ist in der Terminologie der luhmannschen Soziologie als Umweltbedingung der Gesellschaft gedacht - etwa so, wie man sich das Nervensystem als Bedingung des Psychischen vorstellen mag. Hier geht es nur um das Konstrukt von N. Luhmann, bei welchem Psychologie keine Rolle spielt.

Als psychisches System bezeichne ich - in Anlehnung an N. Luhmann - ein zum Gesellschaftssystem komplementär gedachtes Konstrukt, das benötigt wird, um den Inhalt der gesellschaftlichen Kommunikation zu plausibilisieren.

Die Systemtheorie von N. Luhmann kennt keine Menschen - und braucht sie auch nicht, ebensowenig wie die Physik Menschen braucht. Wenn aber - quasi widersinnig - gefragt wird, wo und wie Anschlüsse in der Kommunikation passieren, und warum diese zwar kontingent, aber nicht ganz zufällig sind, braucht es einen Grund, der die Selektion zumindest begrenzt.
Das psychische System selektioniert, welche "Information" in die Kommunikation kommt, oder wenigstens was eher sehr selten.

Das psychische System ist aber durch die Kommunikation bestimmt. Umgangssprachlich (und wohl auch im Denken dieser Theorie) gilt, dass die Gesellschaft festlegt, was Menschen denken und sagen können.

Kritische Anmerkung:
In einem weiter gefassten Sinn liesse sich die wechelseitige Abhängigkeit zwischen dem psychischen und dem sozialen System als Resultat eines evolutionären Driftes (im Sinne von H. Maturana) verstehen.
Die Psychologie dagegen nimmt die Psyche meistens als Anpassung wahr, deren Entwicklung sehr lange vor der von N. Luhmann gemeinten Kommunikation begonnen hat.