[Filestore] Cache inconsistency during concurrent stat and write operations

[debnatkh]

Symptoms:

filestore-client ls --node 6821 --json | jq '.content[0]'
{
  "Type": 1,
  "Links": 1,
  "Size": 262144,
  "Name": "",
  "Uid": 114,
  "MTime": 1734112031734435,
  "ATime": 1734111198060740,
  "Mode": 384,
  "Id": 6821,
  "CTime": 1734111198060740,
  "Gid": 124
}
filestore-client stat --path  '/proller-find-corruption-pgbench1/postgresql/pg_xact/0088' --json | jq {
  "Id": 6821,
  "Type": 1,
  "Mode": 384,
  "Uid": 114,
  "Gid": 124,
  "ATime": 1734111198060740,
  "MTime": 1734112005215331,
  "CTime": 1734111198060740,
  "Size": 253952,
  "Links": 1
}

So in this particular case state of the cache and localdb diverged because first request is supposed to use localdb, unlike the second request.

[qkrorlqr]

race вида:

1. prepare GetNodeAttr - reads old size, stores it in args
2. execute GetNodeAttr - NOP
3. prepare WriteData
4. execute WriteData - updates size, invalidates cache (but not args of the concurrently running GetNodeAttr)
5. complete GetNodeAttr - writes old size to cache
6. complete WriteData

может смущать следующее: почему GetNodeAttr мгновенно не пролетает весь путь от чтения данных до complete - там же нечему коммититься, эта транзакция же ничего не пишет

но, судя по всему, GetNodeAttr не закомплитился мгновенно, а ждал, т.к. была еще одна третья транзакция, запустившаяся до GetNodeAttr, и ждавшая коммита

то есть если совсем подробно, то порядок такой:

1. prepare SomeOtherRWTx
2. execute SomeOtherRWTx
3. prepare GetNodeAttr
4. execute GetNodeAttr
5. … complete GetNodeAttr delayed till SomeOtherRWTx completes …
6. prepare WriteData
7. execute WriteData
8. complete SomeOtherRWTx
9. complete GetNodeAttr
10. complete WriteData

[qkrorlqr]

аналогичный race есть в ReadAheadCache (починен также в #2741 )