Lines Matching refs:GetAndUpdateOp
3717 enum class GetAndUpdateOp { enum
3727 GetAndUpdateOp get_and_update_op, in GenerateGetAndUpdate()
3740 case GetAndUpdateOp::kSet: in GenerateGetAndUpdate()
3744 case GetAndUpdateOp::kAddWithByteSwap: in GenerateGetAndUpdate()
3753 case GetAndUpdateOp::kAdd: in GenerateGetAndUpdate()
3767 case GetAndUpdateOp::kAnd: in GenerateGetAndUpdate()
3768 case GetAndUpdateOp::kOr: in GenerateGetAndUpdate()
3769 case GetAndUpdateOp::kXor: in GenerateGetAndUpdate()
3779 case GetAndUpdateOp::kSet: in GenerateGetAndUpdate()
3781 case GetAndUpdateOp::kAddWithByteSwap: in GenerateGetAndUpdate()
3808 case GetAndUpdateOp::kAdd: in GenerateGetAndUpdate()
3828 case GetAndUpdateOp::kAnd: in GenerateGetAndUpdate()
3836 case GetAndUpdateOp::kOr: in GenerateGetAndUpdate()
3844 case GetAndUpdateOp::kXor: in GenerateGetAndUpdate()
3861 GetAndUpdateOp get_and_update_op) { in CreateUnsafeGetAndUpdateLocations()
3881 if (get_and_update_op == GetAndUpdateOp::kAdd) { in CreateUnsafeGetAndUpdateLocations()
3900 GetAndUpdateOp get_and_update_op) { in GenUnsafeGetAndUpdate()
3910 if (get_and_update_op == GetAndUpdateOp::kAdd) { in GenUnsafeGetAndUpdate()
3920 DCHECK(get_and_update_op == GetAndUpdateOp::kSet); in GenUnsafeGetAndUpdate()
3944 DCHECK(get_and_update_op == GetAndUpdateOp::kSet); in GenUnsafeGetAndUpdate()
3976 CreateUnsafeGetAndUpdateLocations(invoke, codegen_, DataType::Type::kInt32, GetAndUpdateOp::kAdd); in VisitJdkUnsafeGetAndAddInt()
3979 CreateUnsafeGetAndUpdateLocations(invoke, codegen_, DataType::Type::kInt64, GetAndUpdateOp::kAdd); in VisitJdkUnsafeGetAndAddLong()
3982 CreateUnsafeGetAndUpdateLocations(invoke, codegen_, DataType::Type::kInt32, GetAndUpdateOp::kSet); in VisitJdkUnsafeGetAndSetInt()
3985 CreateUnsafeGetAndUpdateLocations(invoke, codegen_, DataType::Type::kInt64, GetAndUpdateOp::kSet); in VisitJdkUnsafeGetAndSetLong()
3989 invoke, codegen_, DataType::Type::kReference, GetAndUpdateOp::kSet); in VisitJdkUnsafeGetAndSetReference()
4009 GenUnsafeGetAndUpdate(invoke, codegen_, DataType::Type::kInt32, GetAndUpdateOp::kAdd); in VisitJdkUnsafeGetAndAddInt()
4012 GenUnsafeGetAndUpdate(invoke, codegen_, DataType::Type::kInt64, GetAndUpdateOp::kAdd); in VisitJdkUnsafeGetAndAddLong()
4015 GenUnsafeGetAndUpdate(invoke, codegen_, DataType::Type::kInt32, GetAndUpdateOp::kSet); in VisitJdkUnsafeGetAndSetInt()
4018 GenUnsafeGetAndUpdate(invoke, codegen_, DataType::Type::kInt64, GetAndUpdateOp::kSet); in VisitJdkUnsafeGetAndSetLong()
4021 GenUnsafeGetAndUpdate(invoke, codegen_, DataType::Type::kReference, GetAndUpdateOp::kSet); in VisitJdkUnsafeGetAndSetReference()
4032 get_and_update_op_(GetAndUpdateOp::kAdd) { in VarHandleSlowPathARMVIXL()
4059 void SetGetAndUpdateOp(GetAndUpdateOp get_and_update_op) { in SetGetAndUpdateOp()
4092 GetAndUpdateOp get_and_update_op_;
5164 GetAndUpdateOp get_and_update_op) { in CreateVarHandleGetAndUpdateLocations()
5185 if (get_and_update_op == GetAndUpdateOp::kSet) { in CreateVarHandleGetAndUpdateLocations()
5202 if (get_and_update_op != GetAndUpdateOp::kAdd && in CreateVarHandleGetAndUpdateLocations()
5222 GetAndUpdateOp get_and_update_op, in GenerateVarHandleGetAndUpdate()
5271 if (get_and_update_op == GetAndUpdateOp::kSet) { in GenerateVarHandleGetAndUpdate()
5326 if (get_and_update_op == GetAndUpdateOp::kAdd) { in GenerateVarHandleGetAndUpdate()
5328 get_and_update_op = GetAndUpdateOp::kAddWithByteSwap; in GenerateVarHandleGetAndUpdate()
5360 if (byte_swap && get_and_update_op != GetAndUpdateOp::kAddWithByteSwap) { in GenerateVarHandleGetAndUpdate()
5363 if (get_and_update_op != GetAndUpdateOp::kSet) { in GenerateVarHandleGetAndUpdate()
5371 } else if (get_and_update_op == GetAndUpdateOp::kSet && in GenerateVarHandleGetAndUpdate()
5409 CreateVarHandleGetAndUpdateLocations(invoke, codegen_, GetAndUpdateOp::kSet); in VisitVarHandleGetAndSet()
5413 GenerateVarHandleGetAndUpdate(invoke, codegen_, GetAndUpdateOp::kSet, std::memory_order_seq_cst); in VisitVarHandleGetAndSet()
5417 CreateVarHandleGetAndUpdateLocations(invoke, codegen_, GetAndUpdateOp::kSet); in VisitVarHandleGetAndSetAcquire()
5421 GenerateVarHandleGetAndUpdate(invoke, codegen_, GetAndUpdateOp::kSet, std::memory_order_acquire); in VisitVarHandleGetAndSetAcquire()
5425 CreateVarHandleGetAndUpdateLocations(invoke, codegen_, GetAndUpdateOp::kSet); in VisitVarHandleGetAndSetRelease()
5429 GenerateVarHandleGetAndUpdate(invoke, codegen_, GetAndUpdateOp::kSet, std::memory_order_release); in VisitVarHandleGetAndSetRelease()
5433 CreateVarHandleGetAndUpdateLocations(invoke, codegen_, GetAndUpdateOp::kAdd); in VisitVarHandleGetAndAdd()
5437 GenerateVarHandleGetAndUpdate(invoke, codegen_, GetAndUpdateOp::kAdd, std::memory_order_seq_cst); in VisitVarHandleGetAndAdd()
5441 CreateVarHandleGetAndUpdateLocations(invoke, codegen_, GetAndUpdateOp::kAdd); in VisitVarHandleGetAndAddAcquire()
5445 GenerateVarHandleGetAndUpdate(invoke, codegen_, GetAndUpdateOp::kAdd, std::memory_order_acquire); in VisitVarHandleGetAndAddAcquire()
5449 CreateVarHandleGetAndUpdateLocations(invoke, codegen_, GetAndUpdateOp::kAdd); in VisitVarHandleGetAndAddRelease()
5453 GenerateVarHandleGetAndUpdate(invoke, codegen_, GetAndUpdateOp::kAdd, std::memory_order_release); in VisitVarHandleGetAndAddRelease()
5457 CreateVarHandleGetAndUpdateLocations(invoke, codegen_, GetAndUpdateOp::kAnd); in VisitVarHandleGetAndBitwiseAnd()
5461 GenerateVarHandleGetAndUpdate(invoke, codegen_, GetAndUpdateOp::kAnd, std::memory_order_seq_cst); in VisitVarHandleGetAndBitwiseAnd()
5465 CreateVarHandleGetAndUpdateLocations(invoke, codegen_, GetAndUpdateOp::kAnd); in VisitVarHandleGetAndBitwiseAndAcquire()
5469 GenerateVarHandleGetAndUpdate(invoke, codegen_, GetAndUpdateOp::kAnd, std::memory_order_acquire); in VisitVarHandleGetAndBitwiseAndAcquire()
5473 CreateVarHandleGetAndUpdateLocations(invoke, codegen_, GetAndUpdateOp::kAnd); in VisitVarHandleGetAndBitwiseAndRelease()
5477 GenerateVarHandleGetAndUpdate(invoke, codegen_, GetAndUpdateOp::kAnd, std::memory_order_release); in VisitVarHandleGetAndBitwiseAndRelease()
5481 CreateVarHandleGetAndUpdateLocations(invoke, codegen_, GetAndUpdateOp::kOr); in VisitVarHandleGetAndBitwiseOr()
5485 GenerateVarHandleGetAndUpdate(invoke, codegen_, GetAndUpdateOp::kOr, std::memory_order_seq_cst); in VisitVarHandleGetAndBitwiseOr()
5489 CreateVarHandleGetAndUpdateLocations(invoke, codegen_, GetAndUpdateOp::kOr); in VisitVarHandleGetAndBitwiseOrAcquire()
5493 GenerateVarHandleGetAndUpdate(invoke, codegen_, GetAndUpdateOp::kOr, std::memory_order_acquire); in VisitVarHandleGetAndBitwiseOrAcquire()
5497 CreateVarHandleGetAndUpdateLocations(invoke, codegen_, GetAndUpdateOp::kOr); in VisitVarHandleGetAndBitwiseOrRelease()
5501 GenerateVarHandleGetAndUpdate(invoke, codegen_, GetAndUpdateOp::kOr, std::memory_order_release); in VisitVarHandleGetAndBitwiseOrRelease()
5505 CreateVarHandleGetAndUpdateLocations(invoke, codegen_, GetAndUpdateOp::kXor); in VisitVarHandleGetAndBitwiseXor()
5509 GenerateVarHandleGetAndUpdate(invoke, codegen_, GetAndUpdateOp::kXor, std::memory_order_seq_cst); in VisitVarHandleGetAndBitwiseXor()
5513 CreateVarHandleGetAndUpdateLocations(invoke, codegen_, GetAndUpdateOp::kXor); in VisitVarHandleGetAndBitwiseXorAcquire()
5517 GenerateVarHandleGetAndUpdate(invoke, codegen_, GetAndUpdateOp::kXor, std::memory_order_acquire); in VisitVarHandleGetAndBitwiseXorAcquire()
5521 CreateVarHandleGetAndUpdateLocations(invoke, codegen_, GetAndUpdateOp::kXor); in VisitVarHandleGetAndBitwiseXorRelease()
5525 GenerateVarHandleGetAndUpdate(invoke, codegen_, GetAndUpdateOp::kXor, std::memory_order_release); in VisitVarHandleGetAndBitwiseXorRelease()